本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
导入经过 SageMaker AI 训练的 Amazon Nova 模型
注意
要将开源模型导入 Amazon Bedrock,需要使用模型导入任务。有关更多信息,请参阅 使用自定义模型导入功能将自定义的开源模型导入 Amazon Bedrock 中。
要导入使用 SageMaker AI 自定义的 Amazon Nova 模型,需要在 Amazon Bedrock 中为它创建一个新的自定义模型。例如,如果您使用 SageMaker AI 对 Amazon Nova Pro 模型进行微调以提高其在特定使用案例中的性能,则可以将经过微调的模型作为自定义模型导入 Amazon Bedrock,并使用它来运行推理。
在 Amazon Bedrock 中创建和使用经过 SageMaker AI 训练的 Amazon Nova 模型的工作方式如下:
-
在 SageMaker AI 中自定义模型 – 使用 SageMaker AI 训练作业,通过预构建的基本配方自定义 Amazon Nova 模型。有关更多信息,请参阅《Amazon SageMaker AI 开发人员指南》中的自定义 Amazon Nova 模型。
-
在 Amazon Bedrock 中创建自定义模型 – 使用 CreateCustomModel API 操作创建自定义模型。当您创建自定义模型时,Amazon Bedrock 会进行验证,然后从 Amazon 托管的 Amazon S3 存储桶导入模型构件。当您运行第一个 SageMaker AI 训练作业时,SageMaker AI 会创建这个存储桶。有关代码示例,请参阅创建自定义模型(AWS SDK)。
-
为自定义模型设置推理 – 导入过程完成后,即可为模型设置推理。有关更多信息,请参阅 为自定义模型设置推理。您可以通过模型自定义,像管理在 Amazon Bedrock 中创建的模型那样管理自定义模型。有关更多信息,请参阅 针对使用案例自定义模型以提高其性能。
您可以在以下区域使用 Amazon Nova 模型创建自定义模型(有关 Amazon Bedrock 支持的区域的更多信息,请参阅 Amazon Bedrock 端点和配额):
-
美国东部(弗吉尼亚州北部)
指南和要求
在导入 Amazon Nova 模型之前,请注意以下事项:
-
必须使用美国东部(弗吉尼亚州北部)区域。
-
在 SageMaker AI 中自定义模型时,必须使用以下 Amazon Nova 模型之一:
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro
-
-
在 SageMaker AI 中自定义模型时,必须使用 SageMaker AI Amazon Nova 配方。有关更多信息,请参阅《Amazon SageMaker AI 开发人员指南》中的 Amazon Nova 配方。
-
经过 SageMaker AI 训练的 Amazon Nova 模型必须存储在 Amazon 托管的 Amazon S3 存储桶中。当您运行第一个 SageMaker AI 训练作业时,SageMaker AI 会创建这个存储桶。
-
您的 Amazon Bedrock 服务角色必须有权访问由 Amazon 托管的 Amazon S3 存储桶,如果指定,还必须有权访问您的 AWS KMS 密钥。有关创建角色的更多信息,请参阅为导入预训练模型创建服务角色。有关授予角色使用 AWS KMS 密钥的权限的更多信息,请参阅导入的自定义模型的加密。
-
只能使用 Amazon Bedrock API 通过经过 SageMaker AI 训练的现有 Amazon Nova 模型创建自定义模型。您不能使用 Amazon Bedrock 控制台。