在 Amazon SageMaker AI 上自訂 Amazon Nova 模型 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

在 Amazon SageMaker AI 上自訂 Amazon Nova 模型

您可以透過配方自訂 Amazon Nova 模型,包括增強型 Nova 2.0 模型,並在 SageMaker AI 上對其進行訓練。這些配方支援監督式微調 (SFT)、直接偏好設定最佳化 (DPO) 和強化微調 (RFT) 等技術,同時具有全階和低階調整 (LoRA) 選項。

端對端自訂工作流程涉及模型訓練、模型評估和部署等階段以進行推論。SageMaker AI 上的此模型自訂方法提供更大的彈性和控制,以微調其支援的 Amazon Nova 模型、精確最佳化超參數,以及實作技術,例如 LoRA 參數效率微調 (PEFT)、全階 SFT、DPO、RFT、持續訓練前 (CPT)、近端政策最佳化 (PPO) 等。

SageMaker AI 提供兩個環境來自訂 Amazon Nova 模型。

  • Amazon SageMaker 訓練任務提供全受管環境,可讓您自訂不需要建立或維護任何叢集的 Nova 模型。服務會自動處理所有基礎設施佈建、擴展和資源管理,讓您僅專注於設定訓練參數和提交任務。您可以使用參數效率微調 (PEFT)、完整排名微調、直接偏好設定最佳化 (DPO) 和強化微調 (RFT) 等技術,在 SageMaker 訓練任務上自訂 Nova 模型。如需詳細資訊,請參閱SageMaker 訓練任務上的 Amazon Nova 自訂

    注意

    如果您提供 KMS 金鑰給 Nova 模型自訂訓練任務,以便在 Amazon 擁有的輸出 S3 儲存貯體中加密:

    • 呼叫後續反覆訓練任務時,或利用加密模型呼叫 CreateCustomModel API 時,您必須提供相同的 KMS 金鑰。

    • 呼叫 CreateTrainingJob API 的身分 (而非執行角色) 必須具有 CreateGrantEncrypt、 和 的許可RetireGrantGenerateDataKey如 KMS 金鑰政策所定義。

  • Amazon SageMaker HyperPod 透過要求您建立和管理具有受限制執行個體群組 (RIG) 的 SageMaker HyperPod EKS 叢集,提供專門的環境來訓練 Nova 模型。此環境可讓您靈活地設定具有專門 GPU 執行個體和整合式 Amazon FSx for Lustre 儲存體的訓練環境,使其特別適合進階分散式訓練案例和持續模型開發。如需詳細資訊,請參閱Amazon SageMaker HyperPod 上的 Amazon Nova 自訂