匯入 SageMaker AI 訓練的 Amazon Nova 模型 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

匯入 SageMaker AI 訓練的 Amazon Nova 模型

注意

若要將開放原始碼模型匯入 Amazon Bedrock,請使用模型匯入任務。如需詳細資訊,請參閱使用自訂模型匯入,將自訂的開放原始碼模型匯入 Amazon Bedrock

若要匯入您使用 SageMaker AI 自訂的 Amazon Nova 模型,請在 Amazon Bedrock 中為其建立新的自訂模型。例如,如果您使用 SageMaker AI 微調Amazon Nova Pro模型以改善特定使用案例的效能,您可以將微調後的模型匯入 Amazon Bedrock 做為自訂模型,並使用它來執行推論。

在 Amazon Bedrock 中建立和使用 SageMaker AI 訓練的 Amazon Nova 模型,運作方式如下:

  1. SageMaker AI 中自訂模型 – 透過使用 SageMaker AI 訓練任務的預先建置基礎配方來自訂 Amazon Nova 模型。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的自訂 Amazon Nova 模型Amazon SageMaker

  2. Amazon Bedrock 中建立自訂模型 – 使用 CreateCustomModel API 操作建立自訂模型。當您建立自訂模型時,Amazon Bedrock 會驗證模型成品,然後從 Amazon 管理的 Amazon S3 儲存貯體匯入模型成品。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。如需程式碼範例,請參閱 建立自訂模型AWS SDKs)

  3. 設定自訂模型的推論 – 匯入程序完成後,您可以設定模型的推論。如需詳細資訊,請參閱設定自訂模型的推論。您可以透過模型自訂來管理自訂模型,就像在 Amazon Bedrock 中建立的模型一樣。如需詳細資訊,請參閱自訂您的模型,以改善其針對使用案例的效能

您可以從下列區域中的 Amazon Nova 模型建立自訂模型 (如需 Amazon Bedrock 支援區域的詳細資訊,請參閱 Amazon Bedrock 端點和配額):

  • 美國東部 (維吉尼亞北部)

指導方針和要求

匯入 Amazon Nova 模型之前,請注意下列事項:

  • 您必須使用美國東部 (維吉尼亞北部) 區域。

  • 當您在 SageMaker AI 中自訂模型時,必須使用下列其中一個 Amazon Nova 模型:

    • Amazon Nova Lite

    • Amazon Nova Micro

    • Amazon Nova Pro

  • 當您在 SageMaker AI 中自訂模型時,您必須使用 SageMaker AI Amazon Nova 配方。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的 Amazon Nova 配方。 Amazon SageMaker

  • 您的 SageMaker AI 訓練的 Amazon Nova 模型必須存放在 Amazon 受管的 Amazon S3 儲存貯體中。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。

  • 您的 Amazon Bedrock 服務角色必須具有存取 Amazon 受管 Amazon S3 儲存貯體的許可,如果指定,則為您的 AWS KMS 金鑰。如需建立角色的詳細資訊,請參閱 建立用於匯入預先訓練模型的服務角色。如需授予角色許可以使用您的 AWS KMS 金鑰的詳細資訊,請參閱 加密匯入的自訂模型

  • 您只能使用 Amazon Bedrock APIs 從現有的 SageMaker AI 訓練的 Amazon Nova 模型建立自訂模型。您無法使用 Amazon Bedrock 主控台。