Amazon-Nova-Rezepte - Amazon SageMaker AI

Amazon-Nova-Rezepte

Sie können ein Amazon-Nova-Rezept aus dem Repository für SageMaker-HyperPod-Rezepte abrufen. Ein Nova-Rezept ist eine YAML-Konfigurationsdatei, die SageMaker AI Informationen darüber liefert, wie Ihr Modellanpassungsjob ausgeführt wird. Sie enthält den Namen des Basismodells, legt die Hyperparameter für das Training fest, definiert Feinabstimmungseinstellungen und enthält alle zusätzlichen Optionen, die für die Feinabstimmung oder das erfolgreiche Training des Modells erforderlich sind.

Sie können auch über Amazon SageMaker Studio und Amazon SageMaker Unified Studio auf Nova-Rezepte zugreifen, indem Sie zum JumpStart-Modell-Hub navigieren, AWS auswählen und Amazon-Nova-Modelle durchsuchen, um die zugehörigen Rezepte zu finden. Sowohl Amazon SageMaker Studio als auch Amazon SageMaker Unified Studio bieten Beispiel-Notebooks für jedes Rezept, die alle erforderlichen Schritte enthalten, um die Rezepte zu ändern und Anpassungsjobs mithilfe von SageMaker-AI-Trainingsjobs oder Umgebungen von Amazon SageMaker HyperPod auszuführen.

Für den Zugriff auf die Rezeptseiten in Amazon SageMaker Studio muss die Ausführungsrolle die folgenden Berechtigungen besitzen.

{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

Um die Beispiel-Notebooks auf SageMaker-Trainingsjobs und SageMaker HyperPod auszuführen, verwenden Sie eine der folgenden Versionen des SageMaker-Distribution-Image: 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+. Dies gilt sowohl für Amazon SageMaker Studio als auch für Amazon SageMaker Unified Studio.

Abrufen von Amazon-Nova-Rezepten

Um ein Amazon-Nova-Basisrezept zu erhalten, klonen Sie das Repository für SageMaker-HyperPod-Rezepte, indem Sie den folgenden Befehl ausführen.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

Die Basisrezepte sind unter recipes_collection/recipes/ verfügbar.

cd recipes_collection/recipes/

Die Amazon-Nova-Anpassungsrezepte befinden sich in den folgenden Ordnern.

Rezepttyp Ordner
SFT (Full-Rank und PEFT), PPO, DPO (Full-Rank und PEFT) feinabstimmung/nova
Bewertung bewertung/Nova
CPT training/nova

Verfügbare Modelle und Algorithmen

Die folgende Tabelle fasst die Verfügbarkeit von Anpassungen für Amazon-Nova-Modelle und unterstützte Algorithmen unter Verwendung von SageMaker AI zusammen.

Modellname

Modell-ID

Feinabstimmung

Hinweise

Amazon Nova Micro

amazon.nova-micro-v1:0:128k

Ja

For both SFT and DPO, this model accepts text as input and produces text as output only.

Amazon Nova Lite

amazon.nova-lite-v1:0:300k

Ja

  • SFT – Akzeptiert entweder Text und/oder Bild oder Text und/oder Video als Eingabe und erzeugt Text als Ausgabe. Ein einzelner Job kann Text, Bild und Video nicht in derselben Ausführung kombinieren.

  • DPO – Akzeptiert Text und Bild als Eingabe und erzeugt Text als Ausgabe.

Amazon Nova Pro

amazon.nova-pro-v1:0:300k

Ja

  • SFT – Akzeptiert entweder Text und/oder Bild oder Text und/oder Video als Eingabe und erzeugt Text als Ausgabe. Ein einzelner Job kann Text, Bild und Video nicht in derselben Ausführung kombinieren.

  • DPO – Akzeptiert Text und Bild als Eingabe und erzeugt Text als Ausgabe.

Referenz zu Amazon-Nova-Rezepten

In der folgenden Tabelle sind detaillierte Informationen zur Amazon-Nova-Rezeptreferenz aufgeführt.

Modell Kategorie/Unterkategorie Technik Name des Rezepts Image-URI (SageMaker-Trainingsjobs) Bild-URI (SageMaker HyperPod) Datenverarbeitungs-Instance
Nova Lite Training/Feinabstimmung

Überwachte Feinabstimmung (LoRA)

nova_lite_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite Training/Feinabstimmung

Überwachte Feinabstimmung (vollständig)

nova_lite_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Lite Training/Feinabstimmung

Direkte Präferenzoptimierung (vollständig)

nova_lite_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite Training/Feinabstimmung

Direkte Präferenzoptimierung (LoRA)

nova_lite_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Lite Training/bestärkendes Lernen

Auf Belohnungen basierendes bestärkendes Lernen (PPO)

nova_lite_p5_gpu_ppo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Lite Training/fortgesetztes Vortraining Fortgesetztes Vortraining (Basismodell) nova_lite_gpu_p5x16_pretrain.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite Bewertung/bewerten Standard-Text-Benchmarks nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Bewertung/bewerten

Benutzerdefinierte Datensatzbewertung

nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Bewertung/bewerten

Multimodale Benchmarks

nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite Bewertung/bewerten

LLM-as-a-Judge

nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Training/Feinabstimmung

Überwachte Feinabstimmung (LoRA)

nova_micro_g5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest ml.g5.12xlarge
Nova Micro Training/Feinabstimmung

Überwachte Feinabstimmung (LoRA)

nova_micro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro Training/Feinabstimmung

Überwachte Feinabstimmung (vollständig)

nova_micro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Micro Training/Feinabstimmung

Direkte Präferenzoptimierung (vollständig)

nova_micro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro Training/Feinabstimmung

Direkte Präferenzoptimierung (LoRA)

nova_micro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Micro Training/bestärkendes Lernen

Auf Belohnungen basierendes bestärkendes Lernen (PPO)

nova_micro_p5_gpu_ppo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Micro Training/fortgesetztes Vortraining Fortgesetztes Vortraining (Basismodell) nova_micro_gpu_p5x8_pretrain.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro Bewertung/bewerten Allgemeines Text-Benchmark nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Bewertung/bewerten

Benchmark mit eigenem Datensatz (gen_qa)

nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro Bewertung/bewerten

LLM-as-a-Judge

nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Training/Feinabstimmung

Überwachte Feinabstimmung (LoRA)

nova_pro_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro Training/Feinabstimmung

Überwachte Feinabstimmung (vollständig)

nova_pro_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge
Nova Pro Training/Feinabstimmung

Direkte Präferenzoptimierung (vollständig)

nova_pro_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro Training/Feinabstimmung

Direkte Präferenzoptimierung (LoRA)

nova_pro_p5_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge
Nova Pro Training/bestärkendes Lernen

Auf Belohnungen basierendes bestärkendes Lernen (PPO)

nova_pro_p5_gpu_ppo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge
Nova Pro Training/fortgesetztes Vortraining Fortgesetztes Vortraining (Basismodell) nova_pro_gpu_p5x24_pretrain.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro Training/Datenerweiterung Modelldestillation nach dem Training nova_pro_r5_cpu_distill.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro Bewertung/bewerten Standard-Text-Benchmarks nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Bewertung/bewerten Benutzerdefinierte Datensatzbewertung nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Bewertung/bewerten Multimodale Benchmarks nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro Bewertung/bewerten LLM-as-a-Judge nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Premier Training Modelldestillation nach dem Training

nova_premier_r5_cpu_distill.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST

ml.r5.24xlarge