本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

每個請求中繼資料標記

請求中繼資料可讓您將金鑰值標籤連接到bedrock-runtime端點上的個別 Amazon Bedrock 推論呼叫。標籤會與請求一起記錄在模型調用日誌中。然後，您可以將用量歸因於團隊、應用程式、環境、實驗或任何其他因呼叫而異的維度。沒有資源可事先建立或設定 - 每個呼叫都可以攜帶不同的標籤集。

下列 bedrock-runtime APIs 支援請求中繼資料：

請求中繼資料的運作方式

視您呼叫的 API 而定，您會以不同的方式將中繼資料連接至請求：

只有在進行呼叫的 中啟用記錄時 AWS 區域 ，請求中繼資料才會記錄在模型調用日誌中。如需設定說明，請參閱 使用 CloudWatch Logs 和 Amazon S3 監控模型調用。

下列範例顯示 InvokeModel 請求，使用團隊名稱、環境和測試案例識別符來標記呼叫：

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_sync"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

InvokeModelWithResponseStream 支援相同的標頭：

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke-with-response-stream HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_stream"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

下列範例會在 Converse 呼叫上使用適用於 Python (Boto3) 的 AWS SDK 設定請求中繼資料。SDK 會為您在 SigV4-signed的標頭中包含中繼資料。

import boto3

client = boto3.client("bedrock-runtime")

response = client.converse(
    modelId="us.anthropic.claude-opus-4-8",  # or an inference profile ARN
    messages=[{"role": "user", "content": [{"text": "Summarize this ticket."}]}],
    requestMetadata={
        "user": "alice@example.com",
        "team": "growth",
        "feature": "summarizer",
        "environment": "prod",
    },
)

限制

請求中繼資料具有下列限制，同時適用於X-Amzn-Bedrock-Request-Metadata標頭 (InvokeModel、InvokeModelWithResponseStream) 和requestMetadata內文欄位 (Converse、ConverseStream)：

超過這些限制的請求會因驗證錯誤而遭到拒絕。

請求中繼資料的顯示位置

請求中繼資料會顯示在最上層requestMetadata欄位下的 Amazon Bedrock 模型調用日誌中。下列縮寫日誌項目顯示 InvokeModel 呼叫的欄位：

{
    "schemaType": "ModelInvocationLog",
    "schemaVersion": "1.0",
    "timestamp": "2024-01-15T12:00:00Z",
    "accountId": "123456789012",
    "region": "us-east-1",
    "requestId": "abcd1234-5678-efgh-ijkl-mnopqrstuvwx",
    "operation": "InvokeModel",
    "modelId": "anthropic.claude-3-haiku-20240307-v1:0",
    "requestMetadata": {
        "team": "orchestrator",
        "environment": "preview-test",
        "test_case": "invoke_model_sync"
    },
    "input":  { "...": "..." },
    "output": { "...": "..." }
}

您可以依 Amazon CloudWatch Logs Insights、Amazon S3 查詢工具，例如 Amazon Athena 或任何其他讀取調用日誌的系統中的中繼資料欄位來篩選和彙總日誌。

從日誌取得成本

請求中繼資料和字符計數會寫入您的模型調用日誌，而不是您的帳單。有兩種方式可將它們轉換為成本。

考量事項