Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Observabilité générative de l'IA
Avec Amazon CloudWatch, vous pouvez observer les charges de travail génératives liées à l'IA, y compris les AgentCore agents Amazon Bedrock
CloudWatch l'observabilité générative de l'IA vous permet de :
Obtenez des informations sur les résultats des utilisateurs finaux, les performances, l'intégrité et la précision de l'IA tout en réduisant la charge d' human-in-the-loopévaluation (HITL)
Surveillez les appels de modèles, les agents (gérés, auto-hébergés et tiers), les bases de connaissances, les garde-fous et les outils
Passez de l'expérimentation d'agents à la production d'applications GenAI innovantes tout en garantissant une qualité, des performances et une fiabilité supérieures. Pour plus d'informations, consultez Qu'est-ce qu'Amazon Bedrock ? AgentCore
Identifiez rapidement la source des erreurs à l'aide d' end-to-endun suivi rapide, de mesures sélectionnées et de journaux
Résolvez les problèmes liés à l'ensemble de votre application GenAI et à votre infrastructure sous-jacente, en tirant parti des outils d' CloudWatch observabilité existants tels que les signaux d'application, les alarmes, les tableaux de bord, la protection des données sensibles et les informations sur les journaux
Accédez à des traces rapides lorsque vous utilisez Amazon Bedrock et envoyez des traces structurées de modèles tiers à CloudWatch l'aide du SDK ADOT. Pour plus d'informations sur l'ajout d'observabilité à votre AgentCore agent ou outil Amazon Bedrock, consultez Amazon Bedrock AgentCore
CloudWatch l'observabilité générative de l'IA fournit deux tableaux de bord prédéfinis :
Note
Vous devez activer Amazon Bedrock pour afficher le tableau de bord de Model Invocation.
Invocations de modèles : mesures détaillées sur l'utilisation du modèle, la consommation de jetons et les coûts
AgentCore Agents Amazon Bedrock — Mesures de performance et de décision pour les agents Amazon Bedrock
Les indicateurs clés disponibles dans ces tableaux de bord sont les suivants :
Nombre total et moyen d'appels
Utilisation des jetons (total, moyenne par requête, entrée, sortie)
Latence (moyenne, P90, P99)
Taux d'erreur et événements de limitation
Attribution des coûts par application, rôle d'utilisateur ou utilisateur spécifique
