Supervise a los agentes de Amazon Bedrock mediante métricas CloudWatch - Amazon Bedrock

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Supervise a los agentes de Amazon Bedrock mediante métricas CloudWatch

En la siguiente tabla se describen las métricas de tiempo de ejecución proporcionadas por los agentes de Amazon Bedrock que puede supervisar con Amazon CloudWatch Metrics.

Métricas de tiempo de ejecución

Nombre de métrica Unidad Description (Descripción)
InvocationCount SampleCount Número de solicitudes a la operación de la API
TotalTime Milisegundos El tiempo que tardó el servidor en procesar la solicitud
TTFT Milisegundos Time-to-first-token métrica. Se emite cuando la configuración de streaming está habilitada para una solicitud invokeAgent o invokeInlineAgent.
InvocationThrottles SampleCount Número de invocaciones que el sistema ha limitado. Las solicitudes limitadas y otros errores de invocación no se contabilizan como invocaciones ni como errores.
InvocationServerErrors SampleCount Número de invocaciones que provocan errores en el AWS servidor
InvocationClientErrors SampleCount Número de invocaciones que dan lugar a errores del cliente
ModelLatency Milisegundos La latencia del modelo
ModelInvocationCount SampleCount Número de solicitudes que el agente hizo al modelo
ModelInvocationThrottles SampleCount Número de invocaciones de modelos que el núcleo de Amazon Bedrock limitó. Las solicitudes limitadas y otros errores de invocación no se contabilizan como invocaciones ni como errores.
ModelInvocationClientErrors SampleCount Número de invocaciones del modelo que dan lugar a errores del cliente
ModelInvocationServerErrors SampleCount Número de invocaciones de modelos que provocan errores en el servidor AWS
InputTokenCount SampleCount Número de tokens introducidos para el modelo
outputTokenCount SampleCount Número de tokens emitidos por el modelo

Puede ver las dimensiones del agente en la CloudWatch consola según la siguiente tabla:

Dimensión

Nombre de la dimensión Valores de la dimensión Disponibles para las siguientes métricas
Operación InvokeAgent, InvokeInlineAgent
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrores

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Operación, ModelId Cualquier operación de un agente de Amazon Bedrock incluida en la dimensión Operation y el modelId de cualquier modelo principal de Amazon Bedrock
  • TotalTime

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrores

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Operación AgentAliasArn, ModelId Cualquier operación de un agente de Amazon Bedrock incluida en la dimensión Operation y cualquier modelId de un modelo Amazon Bedrock, agrupado por el agentAliasArn de un alias de agente
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrores

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Usa CloudWatch métricas para los agentes

Puede obtener métricas para los agentes con la consola AWS de administración, la AWS CLI o la CloudWatch API. Puede utilizar la CloudWatch API a través de uno de los kits de desarrollo de AWS software (SDKs) o las herramientas de la CloudWatch API.

El espacio de nombres para las métricas de los agentes es. CloudWatch AWS/Bedrock/Agents

Debe tener los CloudWatch permisos adecuados para supervisar a los agentes. CloudWatch Para obtener más información, consulte Autenticación y control de acceso CloudWatch en la Guía del CloudWatch usuario.

importante

Si no desea utilizar CloudWatch los datos recopilados para mejorar el CloudWatch servicio, puede crear una política de exclusión. Para obtener más información, consulte Políticas de exclusión de los servicios de IA.

Si no ves las métricas publicadas en el CloudWatch panel de control, asegúrate de que la función de servicio de IAM que utilizaste para crear el agente tenga la siguiente política.

JSON
{ "Version":"2012-10-17", "Statement": { "Effect": "Allow", "Resource": "*", "Action": "cloudwatch:PutMetricData", "Condition": { "StringEquals": { "cloudwatch:namespace": "AWS/Bedrock/Agents" } } } }