View a markdown version of this page

Amazon Nova レシピ - Amazon Nova

Amazon Nova レシピ

Amazon Nova レシピは、レシピリポジトリから取得できます。Amazon Nova レシピとは、モデルのカスタマイズジョブを実行する方法の詳細を SageMaker に提供する YAML 設定ファイルを指します。レシピでは、基本モデル名を提供し、トレーニングハイパーパラメータを設定し、最適化設定を定義し、モデルを正常にファインチューニングまたはトレーニングするために必要な追加オプションを含めます。

モデルハブに移動して AWS を選択し、Amazon Nova モデルを参照して関連するレシピを見つけることで、SageMaker AI Monarch から Amazon Nova レシピにアクセスすることもできます。SageMaker AI Monarch と の両方で、レシピごとにサンプルノートブックが用意されています。これには、SageMaker トレーニングジョブまたは SageMaker HyperPod 環境を使用してレシピを変更し、カスタマイズジョブを実行するために必要なすべてのステップが含まれています。

Amazon SageMaker Studio のレシピページにアクセスするには、実行ロールに次のアクセス許可が必要です。

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

SageMaker トレーニングジョブと SageMaker HyperPod でサンプルノートブックを実行するには、2.7.1+2.8.0+3.2.1+3.3.0+ のいずれかの SageMaker ディストリビューションイメージバージョンを使用します。これは、SageMaker AI Monarch と の両方に適用されます。

Amazon Nova レシピの取得

Amazon Nova の基本レシピを取得するには、以下のコマンドを実行してレシピリポジトリのクローンを作成します。

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

基本レシピは recipes_collection/recipes/ で入手できます。

cd recipes_collection/recipes/

Amazon Nova のカスタマイズレシピは次のフォルダーにあります。

レシピタイプ フォルダ
SFT (フルランクおよび PEFT) fine-tuning/nova
評価 evaluation/nova
CPT training/nova

Amazon Nova Forge レシピの取得

ジョブ専用の Amazon Nova Forge レシピにアクセスするには、Amazon Nova Forge へのアクセスを設定し、このワークショップに従って CLI の Forge バージョンをセットアップしてください。SageMaker トレーニングジョブの場合、AWS コンソールと Nova Forge SDK は Forge レシピに自動的にアクセスします。

使用可能なモデルとアルゴリズム

以下の表は、SageMaker を使用した Amazon Nova モデルとサポートされているアルゴリズムのカスタマイズの可否をまとめたものです。

モデル名

モデル ID

ファインチューニング

注意事項

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

はい

  • SFT – 入力としてテキストと画像の両方またはいずれか、あるいはテキストと動画の両方またはいずれかを受け付け、出力としてテキストを生成します。1 つのジョブでテキスト、画像、動画を同じ実行内で組み合わせることはできません。

  • RFT – テキストとイメージをシングルターン会話の入力として受け入れ、テキストを出力として生成します。報酬最適化機能が改善されました。

  • CPT

Amazon Nova 2.0 Lite

以下の表は、Amazon Nova 2.0 Lite レシピリファレンスの詳細をまとめたものです。

モデル カテゴリ/サブカテゴリ 手法 レシピ名 イメージ URI (トレーニングジョブ) イメージ URI (SageMaker HyperPod) コンピューティングインスタンス
Nova 2.0 Lite トレーニング 継続的な事前トレーニング nova_lite_2_0_p5x8_gpu_pretrain.yaml 該当なし 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite パラメータ効率の高いファインチューニング ファインチューニング nova_lite_2_0_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite フルランクのファインチューニング ファインチューニング nova_lite_2_0_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite パラメータ効率 RFT ファインチューニング nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite フルランク RFT ファインチューニング nova_lite_v2_smtj_p5en_gpu_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 独自のデータを使用する 評価 nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 一般的なテキストベンチマーク 評価 nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT 評価 評価 nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite LLM ルーブリックベースのジャッジ 評価 nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge