Amazon Bedrock 推理 - Amazon Nova

Amazon Bedrock 推理

在完成 Amazon Nova 模型的训练与测试后,您可将其部署到 Amazon Bedrock 以实现生产级规模的推理。部署流程包括:通过 CreateCustomModel API 创建 Amazon Bedrock 模型,将模型构件从托管的 Amazon S3 存储桶导出到该模型;待模型状态变为 ACTIVE 后,配置支持按需推理或预置吞吐量推理的端点。

您也可以使用 Amazon Nova 自定义 SDK 部署自定义的 Amazon Nova 模型。Amazon Nova 自定义 SDK 提供简化的操作流程,可从训练作业或 S3 模型检查点中提取相关信息,并将其发布到 Amazon Bedrock。有关更多信息,请参阅 Amazon Nova 自定义 SDK

有关为自定义模型配置 Amazon Bedrock 推理的详细步骤,请参见下文章节。