View a markdown version of this page

应用程序推理配置文件 - Amazon Bedrock
成本归因的工作原理查看个人资料费用扩展注意事项

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

应用程序推理配置文件

应用程序推理配置文件 (AIP) 允许您按应用程序、团队或工作负载对终端节点上亚马逊基岩InvokeModel和匡威 API 的亚马逊基岩成本进行归因。bedrock-runtime每个 AIP 都是特定模型的，带有成本分配标签，这些标签会流向 “成本管理器” 和 “ AWS AWS 成本和使用情况报告”（包括经典 CUR 和 CUR 2.0）。

对于在bedrock-mantle终端上使用 “响应” 和 “聊天完成” 的工作负载，请Projects改用。

重要

两个端点上的响应和聊天完成 API 都不支持应用程序推理配置文件。对那些将应用程序推理配置文件命名为其推理目标的 API 的请求会被拒绝，错误为 400。将AIP与InvokeModel和 Converse API一起使用，将响应和聊天完成的使用归因于或替IAM 主要归因代。Per-request 元数据标记系统、地理和全球推理配置文件可正常与所有这些 API 配合使用。

成本归因的工作原理

应用程序推理配置文件是引用特定 Amazon Bedrock 模型的资源。您可以创建配置文件，附加成本分配标签，然后在 API 调用中使用配置文件 ARN 代替模型 ID。个人资料的标签会附加到每个请求的账单记录中。

以下示例说明在调用 Converse API 时如何使用应用程序推理配置文件 ARN 而不是模型 ID：

import boto3

client = boto3.client("bedrock-runtime")

response = client.converse(
    modelId="arn:aws:bedrock:us-east-1:123456789012:inference-profile/my-team-profile",
    messages=[
        {"role": "user", "content": [{"text": "Hello"}]}
    ]
)

有关创建配置文件的更多信息，请参阅创建应用程序推理配置文件。

注意

应用程序推理配置文件向 Cost Explorer 和 CUR（经典 CUR 和 CUR 2.0）提供总计账单美元。 AWS 最好的谷物是每天每种使用类型；它们不会产生每次请求的成本。有关每个提示令牌的详细信息，请Per-request 元数据标记与您的模型调用日志一起使用。

查看个人资料费用

创建并标记您的配置文件后，在 AWS 账单和成本管理控制台中将这些标签激活为成本分配标签：

  1. 打开 AWS 账单和成本管理控制台。

  2. 在导航窗格中，选择 Cost allocation tags（成本分配标签）。

  3. 选择您应用于个人资料的标签。

  4. 选择激活。

激活后，标签最多可能需要 24 小时才能显示在 Cost Explorer 和 CUR 中。成本分配标签不可追溯性。只有激活后产生的费用才会被标记。有关更多信息，请参阅激活用户定义的成本分配标签。

标签激活后，您可以通过以下工具中的应用程序推理配置文件分析 Amazon Bedrock 成本：

  • AWS 成本浏览器 -按配置文件标签筛选以查看一段时间内的成本趋势。按标签分组以比较不同配置文件的成本。

  • AWS 成本和使用情况报告 — 按配置文件标签查询 CUR 数据，了解单项成本明细。标签出现在经典 CUR 和 CUR 2.0 导出中。

扩展注意事项

每个应用程序推理配置文件都与特定的模型相关联。这意味着您需要为模型、团队和标签集的每种独特组合提供单独的个人资料。随着组织的发展，配置文件数量会迅速增加，尤其是当新模型版本需要新的配置文件时。

为了减少配置文件扩散：

  • 推荐：Projects在跟踪成本时灵活易用。

  • 在团队或成本中心级别进行标记，而不是按用户进行标记。

  • 要在不创建其他配置文件的情况下进行每用户成本归因，请使用IAM 主要归因。IAM 主体跟踪会自动与身份级别的应用程序推理配置文件和属性成本一起使用。

  • 要了解每个提示的代币详细信息而不是总金额，请Per-request 元数据标记与模型调用日志一起使用。它不需要每个模型的资源。