Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Surveillance des performances d’Amazon Bedrock
Vous pouvez surveiller toutes les parties de votre application Amazon Bedrock à l'aide d'Amazon CloudWatch, qui collecte les données brutes et les traite en indicateurs lisibles en temps quasi réel. Vous pouvez représenter graphiquement les métriques à l'aide de la CloudWatch console. Vous pouvez également définir des alarmes qui surveillent certains seuils et envoient des notifications ou effectuent des actions spécifiques lorsque ces seuils sont dépassés.
Pour plus d'informations, consultez la section Qu'est-ce qu'Amazon CloudWatch dans le guide de CloudWatch l'utilisateur Amazon.
Amazon Bedrock fournit des fonctionnalités de surveillance complètes pour les différents composants de votre application :
-
Surveillez l'invocation du modèle à l'aide de CloudWatch Logs et d'Amazon S3- Suivez et analysez les appels de modèles à l'aide de CloudWatch Logs et d'Amazon S3.
-
Surveillez les bases de connaissances à l'aide CloudWatch des journaux- Surveillez les opérations et les performances de la base de connaissances.
-
Surveillez Amazon Bedrock Guardrails à l'aide de métriques CloudWatch- Suivez les évaluations des garde-fous et l'application des politiques.
-
Surveillez les agents Amazon Bedrock à l'aide CloudWatch de métriques- Surveillez les appels des agents et les indicateurs de performance.
-
Métriques d’exécution Amazon Bedrock- Consultez les indicateurs d'exécution clés, notamment les appels, la latence, les erreurs et le nombre de jetons.
-
Surveillez l'évolution de l'état des tâches sur Amazon Bedrock à l'aide d'Amazon EventBridge- Suivez l'évolution de l'état des tâches et automatisez les réponses aux événements.
-
Surveillez les appels d'API Amazon Bedrock à l'aide de CloudTrail- Auditez les appels d'API et suivez l'activité des utilisateurs.
Rubriques
Surveillez l'invocation du modèle à l'aide de CloudWatch Logs et d'Amazon S3
Surveillez les bases de connaissances à l'aide CloudWatch des journaux
Surveillez Amazon Bedrock Guardrails à l'aide de métriques CloudWatch
Surveillez les agents Amazon Bedrock à l'aide CloudWatch de métriques
Surveillez l'évolution de l'état des tâches sur Amazon Bedrock à l'aide d'Amazon EventBridge
Surveillez les appels d'API Amazon Bedrock à l'aide de CloudTrail
Métriques d’exécution Amazon Bedrock
Le tableau suivant décrit les métriques d’exécution fournies par Amazon Bedrock.
| Nom de la métrique | Unité | Description |
|---|---|---|
| Invocations | SampleCount | Nombre de demandes réussies adressées aux opérations Converse ConverseStream, InvokeModel, et InvokeModelWithResponseStreamAPI. |
|
InvocationLatency |
MilliSeconds |
Latence des invocations.
|
|
InvocationClientErrors |
SampleCount |
Nombre d’invocations qui entraînent des erreurs côté client. |
|
InvocationServerErrors |
SampleCount |
Nombre d'appels qui entraînent des erreurs AWS côté serveur. |
|
InvocationThrottles |
SampleCount |
Nombre d’invocations que le système a limitées. Les demandes limitées et les autres erreurs d’invocation ne comptent pas comme Invocations ou Erreurs. Le nombre de limitations que vous voyez dépendra de vos paramètres de nouvelle tentative dans le kit SDK. Pour plus d'informations, consultez la section Comportement des tentatives dans le guide de référence AWS SDKs et Tools. |
|
InputTokenCount |
SampleCount |
Nombre de jetons dans l’entrée. |
| LegacyModelInvocations | SampleCount | Nombre d’invocations utilisant les modèles hérités. |
|
OutputTokenCount |
SampleCount |
Nombre de jetons dans la sortie. |
|
OutputImageCount |
SampleCount |
Nombre d’images dans la sortie (applicable uniquement pour les modèles de génération d’images). |
Il existe également des métriques pour les barrières de protection Amazon Bedrock et les agents Amazon Bedrock.
CloudWatch statistiques pour Amazon Bedrock
Pour chaque tentative de livraison réussie ou infructueuse, les CloudWatch métriques Amazon suivantes sont émises sous l'espace de noms AWS/Bedrock et la Across all model IDs dimension :
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Pour générer les métriques relatives à vos opérations Amazon Bedrock, il vous faut spécifier les informations suivantes :
-
La dimension de métrique. Une dimension est un ensemble de paires nom-valeur qui vous permet d’identifier une métrique. Amazon Bedrock prend en charge les dimensions suivantes :
-
ModelId: toutes les métriques -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
Le nom de la métrique, par exemple
InvocationClientErrors.
Vous pouvez obtenir des statistiques pour Amazon Bedrock à l'aide de AWS Management Console AWS CLI, de ou de l' CloudWatch API. Vous pouvez utiliser l' CloudWatch API via l'un des kits de développement AWS logiciel (SDKs) ou les outils de l' CloudWatch API.
Pour consulter les statistiques d'Amazon Bedrock dans la CloudWatch console, rendez-vous dans la section des statistiques du volet de navigation et sélectionnez l'option Toutes les mesures, puis recherchez l'ID du modèle.
Vous devez disposer des CloudWatch autorisations appropriées pour surveiller Amazon Bedrock. CloudWatch Pour plus d'informations, consultez Authentification et contrôle d'accès pour Amazon CloudWatch dans le guide de l' CloudWatch utilisateur Amazon.
