View a markdown version of this page

在 SageMaker AI 上自訂 Amazon Nova 模型 - Amazon Nova

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 SageMaker AI 上自訂 Amazon Nova 模型

注意

本文件適用於 Amazon Nova 第 1 版。Amazon Nova 2 現已提供新模型和增強功能。如需如何自訂 Amazon Nova 2 的資訊，請參閱自訂 Amazon Nova 2 模型。

您可以透過配方自訂 Amazon Nova 模型，並在 SageMaker 上進行訓練。這些配方支援監督式微調 (SFT) 和持續的預先訓練 (CPT)，適用時提供全階和低階調整 (LoRA) 選項。

端對端自訂工作流程涉及模型訓練、模型評估和部署等階段以進行推論。SageMaker 上的此模型自訂方法提供更大的彈性和控制，以微調其支援的 Amazon Nova 模型、以精確度最佳化超參數，並實作 LoRA 參數效率微調 (PEFT)、全排名 SFT 和持續預先訓練 (CPT) 等技術。

SageMaker 提供兩個環境來自訂 Amazon Nova 模型。

  • SageMaker 訓練任務提供全受管環境，可讓您自訂不需要建立或維護任何叢集的 Amazon Nova 模型。服務會自動處理所有基礎設施佈建、擴展和資源管理，讓您僅專注於設定訓練參數和提交任務。您可以使用參數效率微調 (PEFT) 和全階微調，在 SageMaker 訓練任務上自訂 Amazon Nova 模型。如需詳細資訊，請參閱SageMaker 訓練任務上的 Amazon Nova 自訂。

    注意

    如果您提供 KMS 金鑰給 Amazon Nova 模型自訂訓練任務，以便在 Amazon 擁有的輸出 S3 儲存貯體中加密：

    • 呼叫後續反覆訓練任務時，或利用加密模型呼叫 Amazon Bedrock CreateCustomModel API 時，您必須提供相同的 KMS 金鑰。

    • 呼叫 CreateTrainingJob API 的身分 （而非執行角色） 必須具有 CreateGrant、Encrypt、 和 的許可RetireGrant，GenerateDataKey如 KMS 金鑰政策所定義。

  • SageMaker HyperPod 透過要求您建立和管理具有受限執行個體群組 (RIGs) 的 SageMaker HyperPod EKS 叢集，提供專門的環境來訓練 Amazon Nova 模型。此環境可讓您靈活地設定具有專門 GPU 執行個體和整合式 Amazon FSx for Lustre 儲存體的訓練環境，使其特別適合進階分散式訓練案例和持續模型開發。如需詳細資訊，請參閱SageMaker HyperPod 上的 Amazon Nova 自訂。

在本章節