本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Per-request 元数据标记

请求元数据允许您将键值标签附加到终端节点上的单个 Amazon Bedrock 推理调用。bedrock-runtime标签与请求一起记录在模型调用日志中。然后，您可以将使用情况归因于团队、应用程序、环境、实验或每次调用不同的任何其他维度。无需提前创建或配置资源，每个呼叫可以携带一组不同的标签。

以下 bedrock-runtimeAPI 支持请求元数据：

请求元数据的工作原理

根据您调用的 API，您可以以不同的方式向请求附加元数据：

只有在进行调用的位置启用了日志记录时，请求元数据才会记录 AWS 区域 在模型调用日志中。有关设置说明，请参阅使用 CloudWatch 日志和 Amazon S3 监控模型调用。

以下示例显示了一个 InvokeModel 请求，该请求使用团队名称、环境和测试用例标识符标记呼叫：

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_sync"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

以下版本支持相同的标题 InvokeModelWithResponseStream：

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke-with-response-stream HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_stream"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

以下示例使用适用于 Python 的 AWS 软件开发工具包 (Boto3) 在 Converse 调用中设置请求元数据。SDK 将元数据包含在 SigV4-signed 标题中。

import boto3

client = boto3.client("bedrock-runtime")

response = client.converse(
    modelId="us.anthropic.claude-opus-4-8",  # or an inference profile ARN
    messages=[{"role": "user", "content": [{"text": "Summarize this ticket."}]}],
    requestMetadata={
        "user": "alice@example.com",
        "team": "growth",
        "feature": "summarizer",
        "environment": "prod",
    },
)

限制

请求元数据有以下限制，这些限制适用于X-Amzn-Bedrock-Request-Metadata标头 (InvokeModel, InvokeModelWithResponseStream) 和requestMetadata正文字段（Converse， ConverseStream）：

超过这些限制的请求会被拒绝，并出现验证错误。

请求元数据的显示位置

请求元数据显示在您的 Amazon Bedrock 模型调用日志的顶级requestMetadata字段下。以下缩写的日志条目显示了 InvokeModel 呼叫的字段：

{
    "schemaType": "ModelInvocationLog",
    "schemaVersion": "1.0",
    "timestamp": "2024-01-15T12:00:00Z",
    "accountId": "123456789012",
    "region": "us-east-1",
    "requestId": "abcd1234-5678-efgh-ijkl-mnopqrstuvwx",
    "operation": "InvokeModel",
    "modelId": "anthropic.claude-3-haiku-20240307-v1:0",
    "requestMetadata": {
        "team": "orchestrator",
        "environment": "preview-test",
        "test_case": "invoke_model_sync"
    },
    "input":  { "...": "..." },
    "output": { "...": "..." }
}

您可以在 Amazon Logs Insights、Amazon S3 查询工具（例如 Amazon Athena）或任何其他读取调用 CloudWatch 日志的系统中按元数据字段筛选和汇总日志。

从日志中获取成本

请求元数据和令牌计数会写入您的模型调用日志，而不是账单。有两种方法可以将其转化为成本。

注意事项