本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
匯入 SageMaker AI 訓練的 Amazon Nova 模型
注意
若要將開放原始碼模型匯入 Amazon Bedrock,請使用模型匯入任務。如需詳細資訊,請參閱使用自訂模型匯入,將自訂的開放原始碼模型匯入 Amazon Bedrock。
若要匯入您使用 SageMaker AI 自訂的 Amazon Nova 模型,請在 Amazon Bedrock 中為其建立新的自訂模型。例如,如果您使用 SageMaker AI 微調Amazon Nova Pro模型以改善特定使用案例的效能,您可以將微調後的模型匯入 Amazon Bedrock 做為自訂模型,並使用它來執行推論。
在 Amazon Bedrock 中建立和使用 SageMaker AI 訓練的 Amazon Nova 模型,運作方式如下:
-
在 SageMaker AI 中自訂模型 – 透過使用 SageMaker AI 訓練任務的預先建置基礎配方來自訂 Amazon Nova 模型。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的自訂 Amazon Nova 模型。 Amazon SageMaker
-
在 Amazon Bedrock 中建立自訂模型 – 使用 CreateCustomModel API 操作建立自訂模型。當您建立自訂模型時,Amazon Bedrock 會驗證模型成品,然後從 Amazon 管理的 Amazon S3 儲存貯體匯入模型成品。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。如需程式碼範例,請參閱 建立自訂模型AWS SDKs)。
-
設定自訂模型的推論 – 匯入程序完成後,您可以設定模型的推論。如需詳細資訊,請參閱設定自訂模型的推論。您可以透過模型自訂來管理自訂模型,就像在 Amazon Bedrock 中建立的模型一樣。如需詳細資訊,請參閱自訂您的模型,以改善其針對使用案例的效能。
您可以從下列區域中的 Amazon Nova 模型建立自訂模型 (如需 Amazon Bedrock 支援區域的詳細資訊,請參閱 Amazon Bedrock 端點和配額):
-
美國東部 (維吉尼亞北部)
指導方針和要求
匯入 Amazon Nova 模型之前,請注意下列事項:
-
您必須使用美國東部 (維吉尼亞北部) 區域。
-
當您在 SageMaker AI 中自訂模型時,必須使用下列其中一個 Amazon Nova 模型:
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro
-
-
當您在 SageMaker AI 中自訂模型時,您必須使用 SageMaker AI Amazon Nova 配方。如需詳細資訊,請參閱《Amazon SageMaker AI 開發人員指南》中的 Amazon Nova 配方。 Amazon SageMaker
-
您的 SageMaker AI 訓練的 Amazon Nova 模型必須存放在 Amazon 受管的 Amazon S3 儲存貯體中。當您執行第一個 SageMaker AI 訓練任務時SageMaker AI 會建立此儲存貯體。
-
您的 Amazon Bedrock 服務角色必須具有存取 Amazon 受管 Amazon S3 儲存貯體的許可,如果指定,則為您的 AWS KMS 金鑰。如需建立角色的詳細資訊,請參閱 建立用於匯入預先訓練模型的服務角色。如需授予角色許可以使用您的 AWS KMS 金鑰的詳細資訊,請參閱 加密匯入的自訂模型。
-
您只能使用 Amazon Bedrock APIs 從現有的 SageMaker AI 訓練的 Amazon Nova 模型建立自訂模型。您無法使用 Amazon Bedrock 主控台。