导入经过 SageMaker AI 训练的 Amazon Nova 模型 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

导入经过 SageMaker AI 训练的 Amazon Nova 模型

注意

要将开源模型导入 Amazon Bedrock,需要使用模型导入任务。有关更多信息,请参阅 使用自定义模型导入功能将自定义的开源模型导入 Amazon Bedrock 中

要导入使用 SageMaker AI 自定义的 Amazon Nova 模型,需要在 Amazon Bedrock 中为它创建一个新的自定义模型。例如,如果您使用 SageMaker AI 对 Amazon Nova Pro 模型进行微调以提高其在特定使用案例中的性能,则可以将经过微调的模型作为自定义模型导入 Amazon Bedrock,并使用它来运行推理。

在 Amazon Bedrock 中创建和使用经过 SageMaker AI 训练的 Amazon Nova 模型的工作方式如下:

  1. 在 SageMaker AI 中自定义模型 – 使用 SageMaker AI 训练作业,通过预构建的基本配方自定义 Amazon Nova 模型。有关更多信息,请参阅《Amazon SageMaker AI 开发人员指南》中的自定义 Amazon Nova 模型

  2. 在 Amazon Bedrock 中创建自定义模型 – 使用 CreateCustomModel API 操作创建自定义模型。当您创建自定义模型时,Amazon Bedrock 会进行验证,然后从 Amazon 托管的 Amazon S3 存储桶导入模型构件。当您运行第一个 SageMaker AI 训练作业时,SageMaker AI 会创建这个存储桶。有关代码示例,请参阅创建自定义模型(AWS SDK)

  3. 为自定义模型设置推理 – 导入过程完成后,即可为模型设置推理。有关更多信息,请参阅 为自定义模型设置推理。您可以通过模型自定义,像管理在 Amazon Bedrock 中创建的模型那样管理自定义模型。有关更多信息,请参阅 针对使用案例自定义模型以提高其性能

您可以在以下区域使用 Amazon Nova 模型创建自定义模型(有关 Amazon Bedrock 支持的区域的更多信息,请参阅 Amazon Bedrock 端点和配额):

  • 美国东部(弗吉尼亚州北部)

指南和要求

在导入 Amazon Nova 模型之前,请注意以下事项:

  • 必须使用美国东部(弗吉尼亚州北部)区域。

  • 在 SageMaker AI 中自定义模型时,必须使用以下 Amazon Nova 模型之一:

    • Amazon Nova Lite

    • Amazon Nova Micro

    • Amazon Nova Pro

  • 在 SageMaker AI 中自定义模型时,必须使用 SageMaker AI Amazon Nova 配方。有关更多信息,请参阅《Amazon SageMaker AI 开发人员指南》中的 Amazon Nova 配方

  • 经过 SageMaker AI 训练的 Amazon Nova 模型必须存储在 Amazon 托管的 Amazon S3 存储桶中。当您运行第一个 SageMaker AI 训练作业时,SageMaker AI 会创建这个存储桶。

  • 您的 Amazon Bedrock 服务角色必须有权访问由 Amazon 托管的 Amazon S3 存储桶,如果指定,还必须有权访问您的 AWS KMS 密钥。有关创建角色的更多信息,请参阅为导入预训练模型创建服务角色。有关授予角色使用 AWS KMS 密钥的权限的更多信息,请参阅导入的自定义模型的加密

  • 只能使用 Amazon Bedrock API 通过经过 SageMaker AI 训练的现有 Amazon Nova 模型创建自定义模型。您不能使用 Amazon Bedrock 控制台。