Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Surveillance des performances d'Amazon Bedrock
Vous pouvez surveiller toutes les parties de votre application Amazon Bedrock à l'aide d'Amazon CloudWatch, qui collecte les données brutes et les transforme en indicateurs lisibles en temps quasi réel. Vous pouvez représenter graphiquement les métriques à l'aide de la CloudWatch console. Vous pouvez également définir des alarmes qui surveillent certains seuils et envoient des notifications ou effectuent des actions spécifiques lorsque ces seuils sont dépassés.
Pour plus d'informations, consultez What is Amazon CloudWatch dans le guide de CloudWatch l'utilisateur Amazon.
Rubriques
Surveillez l'invocation du modèle à l'aide de CloudWatch Logs et d'Amazon S3
Surveillez les bases de connaissances à l'aide CloudWatch des journaux
Surveillez Amazon Bedrock Guardrails à l'aide de métriques CloudWatch
Surveillez les agents Amazon Bedrock à l'aide CloudWatch de métriques
Surveillez l'évolution de l'état des tâches sur Amazon Bedrock à l'aide d'Amazon EventBridge
Surveillez les appels d'API Amazon Bedrock à l'aide de CloudTrail
Statistiques d'exécution d'Amazon Bedrock
Le tableau suivant décrit les métriques d’exécution fournies par Amazon Bedrock.
Nom de la métrique | Unit | Description |
---|---|---|
Invocations | SampleCount | Nombre de demandes réussies adressées aux opérations Converse ConverseStream, InvokeModel, et InvokeModelWithResponseStreamAPI. |
InvocationLatency |
MilliSeconds |
Latence des invocations.
|
InvocationClientErrors |
SampleCount |
Nombre d’invocations qui entraînent des erreurs côté client. |
InvocationServerErrors |
SampleCount |
Nombre d'appels qui entraînent des erreurs AWS côté serveur. |
InvocationThrottles |
SampleCount |
Nombre d’invocations que le système a limitées. Les demandes limitées et les autres erreurs d'invocation ne sont considérées ni comme des invocations ni comme des erreurs. Le nombre de limitations que vous verrez dépendra de vos paramètres de nouvelle tentative dans le SDK. Pour plus d'informations, consultez la section Comportement des tentatives dans le guide de référence AWS SDKs et Tools. |
InputTokenCount |
SampleCount |
Nombre de jetons dans l'entrée. |
LegacyModelInvocations | SampleCount | Nombre d’invocations utilisant les modèles hérités. |
OutputTokenCount |
SampleCount |
Nombre de jetons dans la sortie. |
OutputImageCount |
SampleCount |
Nombre d'images dans la sortie (applicable uniquement pour les modèles de génération d'images). |
Il existe également des statistiques pour Amazon Bedrock Guardrails et Amazon Bedrock Agents.
CloudWatch statistiques pour Amazon Bedrock
Pour chaque tentative de livraison réussie ou infructueuse, les CloudWatch métriques Amazon suivantes sont émises sous l'espace de noms AWS/Bedrock
et la Across all model IDs
dimension :
-
ModelInvocationLogsCloudWatchDeliverySuccess
-
ModelInvocationLogsCloudWatchDeliveryFailure
-
ModelInvocationLogsS3DeliverySuccess
-
ModelInvocationLogsS3DeliveryFailure
-
ModelInvocationLargeDataS3DeliverySuccess
-
ModelInvocationLargeDataS3DeliveryFailure
Pour générer les métriques relatives à vos opérations Amazon Bedrock, il vous faut spécifier les informations suivantes :
-
La dimension de métrique. Une dimension est un ensemble de paires nom-valeur qui vous permet d’identifier une métrique. Amazon Bedrock prend en charge les dimensions suivantes :
-
ModelId
: toutes les métriques -
ModelId + ImageSize + BucketedStepSize
– OutputImageCount
-
-
Le nom de la métrique, par exemple
InvocationClientErrors
.
Vous pouvez obtenir des statistiques pour Amazon Bedrock à l'aide de AWS Management Console AWS CLI, de ou de l' CloudWatch API. Vous pouvez utiliser l' CloudWatch API via l'un des kits de développement AWS logiciel (SDKs) ou les outils de l' CloudWatch API.
Pour consulter les statistiques d'Amazon Bedrock dans la CloudWatch console, rendez-vous dans la section des statistiques du volet de navigation et sélectionnez l'option Toutes les mesures, puis recherchez l'ID du modèle.
Vous devez disposer des CloudWatch autorisations appropriées pour surveiller Amazon Bedrock. CloudWatch Pour plus d'informations, consultez Authentification et contrôle d'accès pour Amazon CloudWatch dans le guide de l' CloudWatch utilisateur Amazon.