在 Amazon SageMaker AI 上自訂 Amazon Nova 模型 - Amazon SageMaker AI

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 Amazon SageMaker AI 上自訂 Amazon Nova 模型

您可以透過配方自訂 Amazon Nova 模型，並在 SageMaker AI 上進行訓練。這些配方支援監督式微調 (SFT) 和直接偏好設定最佳化 (DPO) 等技術，同時具有全階和低階調整 (LoRA) 選項。

end-to-end自訂工作流程涉及模型訓練、模型評估和部署等階段以進行推論。SageMaker AI 上的此模型自訂方法提供更大的彈性和控制，以微調其支援的 Amazon Nova 模型、精確最佳化超參數，以及實作諸如 LoRA 參數效率微調 (PEFT)、全等級 SFT、DPO、持續訓練前 (CPT)、近端政策最佳化 (PPO) 等技術。

SageMaker AI 提供兩種環境來自訂 Amazon Nova 模型。

  • Amazon SageMaker 訓練任務提供全受管環境，可讓您自訂不需要建立或維護任何叢集的 Nova 模型。服務會自動處理所有基礎設施佈建、擴展和資源管理，讓您僅專注於設定訓練參數和提交任務。您可以使用參數效率微調 (PEFT)、完整排名微調以及直接偏好設定最佳化 (DPO) 等技術，在 SageMaker 訓練任務上自訂 Nova 模型。如需詳細資訊，請參閱SageMaker 訓練任務上的 Amazon Nova 自訂。

  • Amazon SageMaker HyperPod 透過要求您建立和管理具有受限執行個體群組 (RIGs) 的 SageMaker HyperPod EKS 叢集，提供專門的環境來訓練 Nova 模型。此環境可讓您靈活地使用專門的 GPU 執行個體和整合式 Amazon FSx for Lustre 儲存來設定訓練環境，使其特別適合進階分散式訓練案例和持續的模型開發。如需詳細資訊，請參閱Amazon SageMaker HyperPod 上的 Amazon Nova 自訂 HyperPod。

在本章節