本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Nova 配方
您可以從配方儲存庫取得 Amazon Nova 配方
您也可以透過 SageMaker AI Monarch 和導覽至模型中樞 AWS、選取和瀏覽 Amazon Nova 模型以尋找其相關聯的配方,來存取 Amazon Nova 配方。SageMaker AI Monarch 和 都會為每個配方提供範例筆記本,其中包括修改配方並使用 SageMaker 訓練任務或 SageMaker HyperPod 環境執行自訂任務的所有必要步驟。
若要存取 Amazon SageMaker Studio 中的配方頁面,執行角色必須具有下列許可。
若要在 SageMaker 訓練任務 和 上執行範例筆記本,請使用下列其中一個 SageMaker 分佈映像版本:2.7.1+、2.8.0+、3.2.1+、3.3.0+。這同時適用於 SageMaker AI Monarch 和 。
取得 Amazon Nova 配方
若要取得基本 Amazon Nova 配方,請執行下列命令來複製配方
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
基本配方可在 recipes_collection/recipes/
cd recipes_collection/recipes/
Amazon Nova 自訂配方位於下列資料夾中。
| 配方類型 | 資料夾 |
|---|---|
| SFT (全排名和 PEFT) | fine-tuning/nova |
| 評估 | evaluation/nova |
| CPT | training/nova |
取得 Amazon Nova Forge 配方
若要存取任務專用的 Amazon Nova Forge 配方,請設定您對 Amazon Nova Forge 的存取權,然後遵循此研討會
可用的模型和演算法
下表摘要說明使用 SageMaker 自訂 Amazon Nova 模型和支援演算法的可用性。
模型名稱 |
模型 ID |
微調 |
備註 |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
是 |
|
Amazon Nova 2.0 Lite
下表列出 Amazon Nova 2.0 Lite 配方參考的詳細資訊。
| 模型 | 類別/子類別 | 技術 | 配方名稱 | 映像 URI (訓練任務) | 映像 URI (SageMaker HyperPod) | 運算執行個體 |
|---|---|---|---|---|---|---|
| Nova 2.0 Lite | 培訓 | 持續訓練前 | nova_lite_2_0_p5x8_gpu_pretrain.yaml |
N/A | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 參數高效率微調 | 微調 | nova_lite_2_0_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 全執行微調 | 微調 | nova_lite_2_0_p5_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 參數效率 RFT | 微調 | nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 完整排名 RFT | 微調 | nova_lite_v2_smtj_p5en_gpu_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 使用您自己的資料 | 評估 | nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 一般文字基準 | 評估 | nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT 評估 | 評估 | nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 以 LLM Rubric 為基礎的判斷 | 評估 | nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |