Amazon-Nova-Rezepte
Sie können ein Amazon-Nova-Rezept aus dem Repository für SageMaker-HyperPod-Rezepte
Sie können auch über Amazon SageMaker Studio und Amazon SageMaker Unified Studio auf Nova-Rezepte zugreifen, indem Sie zum JumpStart-Modell-Hub navigieren, AWS auswählen und Amazon-Nova-Modelle durchsuchen, um die zugehörigen Rezepte zu finden. Sowohl Amazon SageMaker Studio als auch Amazon SageMaker Unified Studio bieten Beispiel-Notebooks für jedes Rezept, die alle erforderlichen Schritte enthalten, um die Rezepte zu ändern und Anpassungsjobs mithilfe von SageMaker-AI-Trainingsjobs oder Umgebungen von Amazon SageMaker HyperPod auszuführen.
Für den Zugriff auf die Rezeptseiten in Amazon SageMaker Studio muss die Ausführungsrolle die folgenden Berechtigungen besitzen.
{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }
Um die Beispiel-Notebooks auf SageMaker-Trainingsjobs und SageMaker HyperPod auszuführen, verwenden Sie eine der folgenden Versionen des SageMaker-Distribution-Image: 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+. Dies gilt sowohl für Amazon SageMaker Studio als auch für Amazon SageMaker Unified Studio.
Themen
Abrufen von Amazon-Nova-Rezepten
Um ein Amazon-Nova-Basisrezept zu erhalten, klonen Sie das Repository für SageMaker-HyperPod-Rezepte
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
Die Basisrezepte sind unter recipes_collection/recipes/
cd recipes_collection/recipes/
Die Amazon-Nova-Anpassungsrezepte befinden sich in den folgenden Ordnern.
| Rezepttyp | Ordner |
|---|---|
| SFT (Full-Rank und PEFT), PPO, DPO (Full-Rank und PEFT) | feinabstimmung/nova |
| Bewertung | bewertung/Nova |
| CPT | training/nova |
Verfügbare Modelle und Algorithmen
Die folgende Tabelle fasst die Verfügbarkeit von Anpassungen für Amazon-Nova-Modelle und unterstützte Algorithmen unter Verwendung von SageMaker AI zusammen.
Modellname |
Modell-ID |
Feinabstimmung |
Hinweise |
|---|---|---|---|
Amazon Nova Micro |
amazon.nova-micro-v1:0:128k |
Ja |
For both SFT and DPO, this model accepts text as input and produces text as output only. |
Amazon Nova Lite |
amazon.nova-lite-v1:0:300k |
Ja |
|
Amazon Nova Pro |
amazon.nova-pro-v1:0:300k |
Ja |
|
Referenz zu Amazon-Nova-Rezepten
In der folgenden Tabelle sind detaillierte Informationen zur Amazon-Nova-Rezeptreferenz aufgeführt.
| Modell | Kategorie/Unterkategorie | Technik | Name des Rezepts | Image-URI (SageMaker-Trainingsjobs) | Bild-URI (SageMaker HyperPod) | Datenverarbeitungs-Instance |
|---|---|---|---|---|---|---|
| Nova Lite | Training/Feinabstimmung |
Überwachte Feinabstimmung (LoRA) |
nova_lite_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest
|
ml.p5.48xlarge
|
| Nova Lite | Training/Feinabstimmung |
Überwachte Feinabstimmung (vollständig) |
nova_lite_p5_gpu_sft.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest
|
ml.p5.48xlarge
|
| Nova Lite | Training/Feinabstimmung |
Direkte Präferenzoptimierung (vollständig) |
nova_lite_p5_gpu_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge
|
| Nova Lite | Training/Feinabstimmung |
Direkte Präferenzoptimierung (LoRA) |
nova_lite_p5_gpu_lora_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge
|
| Nova Lite | Training/bestärkendes Lernen |
Auf Belohnungen basierendes bestärkendes Lernen (PPO) |
nova_lite_p5_gpu_ppo.yaml
|
– |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest
|
ml.p5.48xlarge
|
| Nova Lite | Training/fortgesetztes Vortraining | Fortgesetztes Vortraining (Basismodell) |
nova_lite_gpu_p5x16_pretrain.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest
|
ml.p5.48xlarge
|
| Nova Lite | Bewertung/bewerten | Standard-Text-Benchmarks |
nova_lite_p5_48xl_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge
|
| Nova Lite | Bewertung/bewerten |
Benutzerdefinierte Datensatzbewertung |
nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge
|
| Nova Lite | Bewertung/bewerten |
Multimodale Benchmarks |
nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge
|
| Nova Lite | Bewertung/bewerten |
LLM-as-a-Judge |
nova_lite_p5_48xl_llm_judge_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge
|
| Nova Micro | Training/Feinabstimmung |
Überwachte Feinabstimmung (LoRA) |
nova_micro_g5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
– | ml.g5.12xlarge |
| Nova Micro | Training/Feinabstimmung |
Überwachte Feinabstimmung (LoRA) |
nova_micro_p5_gpu_lora_sft.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest
|
ml.p5.48xlarge
|
| Nova Micro | Training/Feinabstimmung |
Überwachte Feinabstimmung (vollständig) |
nova_micro_p5_gpu_sft.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest
|
ml.p5.48xlarge
|
| Nova Micro | Training/Feinabstimmung |
Direkte Präferenzoptimierung (vollständig) |
nova_micro_p5_gpu_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge
|
| Nova Micro | Training/Feinabstimmung |
Direkte Präferenzoptimierung (LoRA) |
nova_micro_p5_gpu_lora_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge
|
| Nova Micro | Training/bestärkendes Lernen |
Auf Belohnungen basierendes bestärkendes Lernen (PPO) |
nova_micro_p5_gpu_ppo.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest
|
ml.p5.48xlarge |
| Nova Micro | Training/fortgesetztes Vortraining | Fortgesetztes Vortraining (Basismodell) |
nova_micro_gpu_p5x8_pretrain.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest
|
ml.p5.48xlarge |
| Nova Micro | Bewertung/bewerten | Allgemeines Text-Benchmark |
nova_micro_p5_48xl_general_text_benchmark_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Micro | Bewertung/bewerten |
Benchmark mit eigenem Datensatz (gen_qa) |
nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Micro | Bewertung/bewerten |
LLM-as-a-Judge |
nova_micro_p5_48xl_llm_judge_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Pro | Training/Feinabstimmung |
Überwachte Feinabstimmung (LoRA) |
nova_pro_p5_gpu_lora_sft.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
ml.p5.48xlarge
|
| Nova Pro | Training/Feinabstimmung |
Überwachte Feinabstimmung (vollständig) |
nova_pro_p5_gpu_sft.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest |
ml.p5.48xlarge |
| Nova Pro | Training/Feinabstimmung |
Direkte Präferenzoptimierung (vollständig) |
nova_pro_p5_gpu_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge |
| Nova Pro | Training/Feinabstimmung |
Direkte Präferenzoptimierung (LoRA) |
nova_pro_p5_gpu_lora_dpo.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest
|
ml.p5.48xlarge |
| Nova Pro | Training/bestärkendes Lernen |
Auf Belohnungen basierendes bestärkendes Lernen (PPO) |
nova_pro_p5_gpu_ppo.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest
|
ml.p5.48xlarge |
| Nova Pro | Training/fortgesetztes Vortraining | Fortgesetztes Vortraining (Basismodell) |
nova_pro_gpu_p5x24_pretrain.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest
|
ml.p5.48xlarge |
| Nova Pro | Training/Datenerweiterung | Modelldestillation nach dem Training |
nova_pro_r5_cpu_distill.yaml
|
– | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST
|
ml.r5.24xlarge
|
| Nova Pro | Bewertung/bewerten | Standard-Text-Benchmarks |
nova_pro_p5_48xl_general_text_benchmark_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Pro | Bewertung/bewerten | Benutzerdefinierte Datensatzbewertung |
nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Pro | Bewertung/bewerten | Multimodale Benchmarks |
nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Pro | Bewertung/bewerten | LLM-as-a-Judge |
nova_pro_p5_48xl_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest
|
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest
|
ml.p5.48xlarge |
| Nova Premier | Training | Modelldestillation nach dem Training |
|
|
– |
|