SageMaker AI で Amazon Nova モデルをカスタマイズする
注記
このドキュメントは Amazon Nova バージョン 1 を対象としています。Amazon Nova 2 が新しいモデルと拡張機能で利用可能になりました。Amazon Nova 2 をカスタマイズする方法については、「Amazon Nova 2 モデルのカスタマイズ」を参照してください。
Amazon Nova モデルをレシピを通じてカスタマイズし、SageMaker 上でトレーニングできます。これらのレシピは、教師ありファインチューニング (SFT) と継続的事前トレーニング (CPT) をサポートし、該当する場合はフルランクおよび低ランク適応 (LoRA) オプションを提供します。
エンドツーエンドカスタマイズワークフローには、モデルトレーニング、モデル評価、推論のためのデプロイなどのステージが含まれます。SageMaker でのこのモデルカスタマイズアプローチは、サポートされている Amazon Nova モデルのファインチューニング、ハイパーパラメータの高精度な最適化、および LoRA Parameter-Efficient Fine-Tuning (PEFT)、フルランク SFT、継続的事前トレーニング (CPT) などの技法の実装における柔軟性と制御性を向上させます。
SageMaker には、Amazon Nova モデルをカスタマイズするための 2 つの環境が用意されています。
-
SageMaker トレーニングジョブには、クラスターを作成または維持管理する必要がない、Amazon Nova モデルをカスタマイズするためのフルマネージド環境が用意されています。このサービスでは、すべてのインフラストラクチャのプロビジョニング、スケーリング、リソース管理が自動的に処理されるため、トレーニングパラメータの設定とジョブの送信のみに集中できます。パラメータ効率の高いファインチューニング (PEFT) とフルランクのファインチューニングを使用して、SageMaker トレーニングジョブで Amazon Nova モデルをカスタマイズできます。詳細については、「SageMaker トレーニングジョブでの Amazon Nova のカスタマイズ」を参照してください。
注記
Amazon 所有の出力 S3 バケットで暗号化するために Amazon Nova モデルカスタマイズトレーニングジョブに KMS キーを指定する場合:
-
後続の反復トレーニングジョブを呼び出すとき、または暗号化されたモデルを利用して Amazon Bedrock CreateCustomModel API を呼び出すときは、同じ KMS キーを指定する必要があります。
-
CreateTrainingJobAPI を呼び出す ID (実行ロールではない) には、KMS キーポリシーで定義されているCreateGrant、RetireGrant、Encrypt、およびGenerateDataKeyへのアクセス許可が必要です。
-
-
SageMaker HyperPod には、制限されたインスタンスグループ (RIG) がある SageMaker HyperPod EKS クラスターの作成と管理を必須とすることで、Amazon Nova モデルをトレーニングするための特殊な環境が用意されています。この環境では、特殊な GPU インスタンスと統合された Amazon FSx for Lustre ストレージを使用してトレーニング環境を柔軟に設定できるため、高度な分散トレーニングシナリオや継続的なモデル開発に特に適しています。詳細については、「SageMaker HyperPod での Amazon Nova のカスタマイズ」を参照してください。