本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
管理 Amazon Bedrock 成本
借助 Amazon Bedrock,您可以将推理成本归因于特定的用户、团队和应用程序,设置预算以防止成本超支,并通过 AWS 计费工具分析您的使用情况。Amazon Bedrock 支持多种您可以组合使用的成本归因方法。例如,使用 IAM 委托人归因来实现每位用户的可见性,同时使用项目进行每个应用程序的标记。
选择方法
您选择的成本归因方法取决于 APIs 您使用的 Amazon Bedrock 以及所需的粒度级别。
| 我想按照... 来归因成本 | 使用... | 支持 APIs | bedrock-runtime |
bedrock-mantle |
|---|---|---|---|---|
| 身份(IAM 用户、IAM 角色和联合) | IAM 主体归因 | InvokeModel/Converse/聊天完成 | ||
| 带有标签的应用程序或团队 | Projects (推荐) | 回复/聊天完成 | ||
| 带有标签的应用程序或团队 | 应用程序推理配置文件 | InvokeModel/Converse/聊天完成 |
Amazon Bedrock 定价的工作原理
Amazon Bedrock 的成本是由模型推断驱动的。每个 API 调用都会处理令牌,令牌是模型读取和生成的文本单位。您的费用取决于:
-
模型。不同的模型具有不同的每代币费率。
-
代币类型。输入令牌、输出令牌、缓存读取令牌和缓存写入令牌均单独定价。
-
路由。跨区域推理的定价与区域内请求的定价不同。
-
推理层。按需、预置吞吐量和批量推断都有不同的定价结构。有关更多信息,请参阅 容量和性能。
有关当前定价,请参阅 Amazon Bedrock 定价
有关通过选择正确的等级来优化成本的指导,请参阅容量和性能。