View a markdown version of this page

Amazon Nova 配方 - Amazon Nova

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Nova 配方

您可以從配方儲存庫取得 Amazon Nova 配方。Amazon Nova 配方是一種 YAML 組態檔案,可提供有關如何執行模型自訂任務的詳細資訊給 SageMaker。它提供基本模型名稱、設定訓練超參數、定義最佳化設定,並包含成功微調或訓練模型所需的任何其他選項。

您也可以透過 SageMaker AI Monarch 和導覽至模型中樞 AWS、選取和瀏覽 Amazon Nova 模型以尋找其相關聯的配方,來存取 Amazon Nova 配方。SageMaker AI Monarch 和 都會為每個配方提供範例筆記本,其中包括修改配方並使用 SageMaker 訓練任務或 SageMaker HyperPod 環境執行自訂任務的所有必要步驟。

若要存取 Amazon SageMaker Studio 中的配方頁面,執行角色必須具有下列許可。

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

若要在 SageMaker 訓練任務 和 上執行範例筆記本,請使用下列其中一個 SageMaker 分佈映像版本:2.7.1+2.8.0+3.2.1+3.3.0+。這同時適用於 SageMaker AI Monarch 和 。

取得 Amazon Nova 配方

若要取得基本 Amazon Nova 配方,請執行下列命令來複製配方儲存庫。

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

基本配方可在 recipes_collection/recipes/ 取得。

cd recipes_collection/recipes/

Amazon Nova 自訂配方位於下列資料夾中。

配方類型 資料夾
SFT (全排名和 PEFT) fine-tuning/nova
評估 evaluation/nova
CPT training/nova

取得 Amazon Nova Forge 配方

若要存取任務專用的 Amazon Nova Forge 配方,請設定您對 Amazon Nova Forge 的存取權,然後遵循此研討會來設定 CLI 的 Forge 版本。對於 SageMaker 訓練任務, AWS 主控台和 Nova Forge SDK 會自動存取 Forge 配方。

可用的模型和演算法

下表摘要說明使用 SageMaker 自訂 Amazon Nova 模型和支援演算法的可用性。

模型名稱

模型 ID

微調

備註

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

  • SFT - 接受文字和/或影像或文字和/或影片做為輸入,並產生文字做為輸出。單一任務無法在同一個執行中結合文字、影像和影片。

  • RFT - 接受文字和影像作為單轉對話的輸入,並產生文字作為輸出。改善獎勵最佳化功能。

  • CPT

Amazon Nova 2.0 Lite

下表列出 Amazon Nova 2.0 Lite 配方參考的詳細資訊。

模型 類別/子類別 技術 配方名稱 映像 URI (訓練任務) 映像 URI (SageMaker HyperPod) 運算執行個體
Nova 2.0 Lite 培訓 持續訓練前 nova_lite_2_0_p5x8_gpu_pretrain.yaml N/A 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 參數高效率微調 微調 nova_lite_2_0_p5_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 全執行微調 微調 nova_lite_2_0_p5_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 參數效率 RFT 微調 nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 完整排名 RFT 微調 nova_lite_v2_smtj_p5en_gpu_rft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 使用您自己的資料 評估 nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 一般文字基準 評估 nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite RFT 評估 評估 nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova 2.0 Lite 以 LLM Rubric 為基礎的判斷 評估 nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest ml.p5.48xlarge, ml.p5en.48xlarge