View a markdown version of this page

管理 Amazon Bedrock 成本 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

管理 Amazon Bedrock 成本

借助 Amazon Bedrock,您可以将推理成本归因于特定的用户、团队和应用程序,设置预算以防止成本超支,并通过 AWS 计费工具分析您的使用情况。Amazon Bedrock 支持多种您可以组合使用的成本归因方法。例如,使用 IAM 委托人归因来实现每位用户的可见性,同时使用项目进行每个应用程序的标记。

选择方法

您选择的成本归因方法取决于 APIs 您使用的 Amazon Bedrock 以及所需的粒度级别。

我想按照... 来归因成本 使用... 支持 APIs bedrock-runtime bedrock-mantle
身份(IAM 用户、IAM 角色和联合) IAM 主体归因 InvokeModel/Converse/聊天完成 Yes No
带有标签的应用程序或团队 Projects (推荐) 回复/聊天完成 No Yes
带有标签的应用程序或团队 应用程序推理配置文件 InvokeModel/Converse/聊天完成 Yes No

Amazon Bedrock 定价的工作原理

Amazon Bedrock 的成本是由模型推断驱动的。每个 API 调用都会处理令牌,令牌是模型读取和生成的文本单位。您的费用取决于:

  • 模型。不同的模型具有不同的每代币费率。

  • 代币类型。输入令牌、输出令牌、缓存读取令牌和缓存写入令牌均单独定价。

  • 路由。跨区域推理的定价与区域内请求的定价不同。

  • 推理层。按需、预置吞吐量和批量推断都有不同的定价结构。有关更多信息,请参阅 容量和性能

有关当前定价,请参阅 Amazon Bedrock 定价

有关通过选择正确的等级来优化成本的指导,请参阅容量和性能