Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Supervisión del rendimiento de Amazon Bedrock
Puedes monitorizar todas las partes de tu aplicación Amazon Bedrock con Amazon CloudWatch, que recopila datos sin procesar y los procesa para convertirlos en métricas legibles prácticamente en tiempo real. Puede graficar las métricas mediante la CloudWatch consola. También puede establecer alarmas que vigilen determinados umbrales y enviar notificaciones o realizar acciones cuando los valores excedan dichos umbrales.
Para obtener más información, consulta Qué es Amazon CloudWatch en la Guía del CloudWatch usuario de Amazon.
Temas
Supervise la invocación de modelos mediante CloudWatch Logs y Amazon S3
Supervise las bases de conocimiento mediante CloudWatch registros
Supervise Amazon Bedrock Guardrails mediante métricas CloudWatch
Supervise a los agentes de Amazon Bedrock mediante métricas CloudWatch
Supervisa los cambios en el estado laboral de Amazon Bedrock con Amazon EventBridge
Supervise las llamadas a la API de Amazon Bedrock mediante CloudTrail
Métricas en tiempo de ejecución de Amazon Bedrock
En la siguiente tabla, se describen las métricas del tiempo de ejecución que proporciona Amazon Bedrock.
| Nombre de métrica | Unidad | Descripción |
|---|---|---|
| Invocations | SampleCount | Número de solicitudes realizadas correctamente a las operaciones de Converse ConverseStreamInvokeModel, y InvokeModelWithResponseStreamAPI. |
|
InvocationLatency |
MilliSeconds |
Latencia de las invocaciones.
|
|
InvocationClientErrors |
SampleCount |
Número de invocaciones que dan lugar a errores del lado del cliente. |
|
InvocationServerErrors |
SampleCount |
Número de invocaciones que provocan errores en el AWS servidor. |
|
InvocationThrottles |
SampleCount |
Número de invocaciones que el sistema ha limitado. Las solicitudes limitadas y otros errores de invocación no cuentan como invocaciones ni como errores. La cantidad de limitaciones que veas dependerá de la configuración de reintentos que tengas en el SDK. Para obtener más información, consulta el comportamiento de los reintentos en la Guía de referencia de herramientas AWS SDKs y herramientas. |
|
InputTokenCount |
SampleCount |
Número de tokens de la entrada. |
| LegacyModelInvocations | SampleCount | Número de invocaciones que utilizan modelos Heredados |
|
OutputTokenCount |
SampleCount |
Número de tokens de la salida. |
|
OutputImageCount |
SampleCount |
Número de imágenes en la salida (solo aplicable a los modelos de generación de imágenes). |
También hay métricas para Amazon Bedrock Guardrails y Amazon Bedrock Agents.
CloudWatch métricas de Amazon Bedrock
Para cada intento de entrega exitoso o fallido, se emiten las siguientes CloudWatch métricas de Amazon en el espacio de nombres y Across all model IDs la AWS/Bedrock dimensión:
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Para obtener métricas de las operaciones de Amazon Bedrock, especifique la siguiente información:
-
La dimensión de la métrica. Una dimensión es un conjunto de pares nombre-valor que se emplea para identificar una métrica. Amazon Bedrock es compatible con las siguientes dimensiones:
-
ModelId: todas las métricas -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
El nombre de la métrica, como
InvocationClientErrors.
Puede obtener métricas de Amazon Bedrock con la AWS Management Console AWS CLI, la o la CloudWatch API. Puede utilizar la CloudWatch API a través de uno de los kits de desarrollo de AWS software (SDKs) o las herramientas de la CloudWatch API.
Para ver las métricas de Amazon Bedrock en la CloudWatch consola, vaya a la sección de métricas del panel de navegación, seleccione la opción todas las métricas y, a continuación, busque el ID del modelo.
Debe tener los CloudWatch permisos adecuados para monitorear Amazon Bedrock. CloudWatch Para obtener más información, consulte Autenticación y control de acceso para Amazon CloudWatch en la Guía del CloudWatch usuario de Amazon.
