Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Per-request balisage des métadonnées

Les métadonnées de demande vous permettent d'associer des balises clé-valeur à des appels d'inférence Amazon Bedrock individuels sur le terminal. bedrock-runtime Les balises sont enregistrées avec la demande dans vos modèles de journaux d'invocation. Vous pouvez ensuite attribuer l'utilisation à une équipe, à une application, à un environnement, à une expérience ou à toute autre dimension qui varie selon les appels. Il n'y a aucune ressource à créer ou à configurer à l'avance : chaque appel peut comporter un ensemble de balises différent.

Les métadonnées des demandes sont prises en charge par les bedrock-runtimeAPI suivantes :

Comment fonctionnent les métadonnées des demandes

Vous associez des métadonnées à une demande différemment en fonction de l'API que vous appelez :

Les métadonnées de demande sont enregistrées dans les journaux d'invocation de votre modèle uniquement lorsque la journalisation est activée dans le Région AWS lieu où l'appel est effectué. Pour les instructions de configuration, voirSurveillez l'invocation du modèle à l'aide de CloudWatch Logs et d'Amazon S3.

L'exemple suivant montre une InvokeModel demande qui étiquette l'appel avec un nom d'équipe, un environnement et un identifiant de scénario de test :

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_sync"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

Le même en-tête est pris en charge sur InvokeModelWithResponseStream :

POST /model/anthropic.claude-3-haiku-20240307-v1:0/invoke-with-response-stream HTTP/1.1
Content-Type: application/json
X-Amzn-Bedrock-Request-Metadata: {"team": "orchestrator", "environment": "preview-test", "test_case": "invoke_model_stream"}

{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 50,
  "messages": [{"role": "user", "content": "Say hello in one word."}]
}

L'exemple suivant définit les métadonnées de requête avec le AWS SDK pour Python (Boto3) lors d'un appel Converse. Le SDK inclut les métadonnées dans les SigV4-signed en-têtes pour vous.

import boto3

client = boto3.client("bedrock-runtime")

response = client.converse(
    modelId="us.anthropic.claude-opus-4-8",  # or an inference profile ARN
    messages=[{"role": "user", "content": [{"text": "Summarize this ticket."}]}],
    requestMetadata={
        "user": "alice@example.com",
        "team": "growth",
        "feature": "summarizer",
        "environment": "prod",
    },
)

Restrictions

Les métadonnées de la demande ont les limites suivantes, qui s'appliquent à la fois à l'X-Amzn-Bedrock-Request-Metadataen-tête (InvokeModel, InvokeModelWithResponseStream) et au champ requestMetadata body (Converse, ConverseStream) :

Les demandes qui dépassent ces limites sont rejetées avec une erreur de validation.

Où apparaissent les métadonnées de la demande

Les métadonnées de demande apparaissent dans les journaux d'invocation de votre modèle Amazon Bedrock sous le champ de niveau supérieurrequestMetadata. L'entrée de journal abrégée suivante indique le champ correspondant à un InvokeModel appel :

{
    "schemaType": "ModelInvocationLog",
    "schemaVersion": "1.0",
    "timestamp": "2024-01-15T12:00:00Z",
    "accountId": "123456789012",
    "region": "us-east-1",
    "requestId": "abcd1234-5678-efgh-ijkl-mnopqrstuvwx",
    "operation": "InvokeModel",
    "modelId": "anthropic.claude-3-haiku-20240307-v1:0",
    "requestMetadata": {
        "team": "orchestrator",
        "environment": "preview-test",
        "test_case": "invoke_model_sync"
    },
    "input":  { "...": "..." },
    "output": { "...": "..." }
}

Vous pouvez filtrer et agréger les journaux par champs de métadonnées dans Amazon CloudWatch Logs Insights, dans les outils de requête Amazon S3 tels qu'Amazon Athena ou dans tout autre système qui lit les journaux d'invocation.

Comment calculer les coûts à partir de vos journaux

Les métadonnées des demandes et le nombre de jetons sont consignés dans les journaux d'invocation de votre modèle, et non dans votre facture. Il existe deux manières de les transformer en coûts.

Considérations