Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Generative KI-Beobachtbarkeit
Mit Amazon CloudWatch können Sie generative KI-Workloads, einschließlich Amazon AgentCore Bedrock-Agenten
CloudWatch Die generative KI-Observability ermöglicht Ihnen:
Gewinnen Sie Einblicke in die Ergebnisse der Endbenutzer, die Leistung, den Zustand und die Genauigkeit der KI und reduzieren Sie gleichzeitig den Bewertungsaufwand human-in-the-loop (HITL)
Überwachen Sie Modellaufrufe, Agenten (verwaltet, selbst gehostet und von Drittanbietern), Wissensdatenbanken, Leitplanken und Tools
Machen Sie Fortschritte von der Erprobung mit Agenten bis hin zur Produktion innovativer GenAI-Anwendungen und sorgen Sie gleichzeitig für überragende Qualität, Leistung und Zuverlässigkeit. Weitere Informationen finden Sie unter Was ist Amazon Bedrock AgentCore?
Identifizieren Sie Fehlerquellen schnell mithilfe von end-to-end Prompt-Tracing, kuratierten Metriken und Protokollen
Beheben Sie Probleme in Ihrer gesamten GenAI-Anwendung und der zugrunde liegenden Infrastruktur und nutzen Sie dabei vorhandene CloudWatch Beobachtungstools wie Anwendungssignale, Alarme, Dashboards, den Schutz sensibler Daten und Logs Insights
Greifen Sie bei der Verwendung von Amazon Bedrock auf Prompt-Traces zu und senden Sie strukturierte Traces von Modellen von Drittanbietern an das ADOT CloudWatch SDK. Informationen zum Hinzufügen von Observability zu Ihrem Amazon AgentCore Bedrock-Agenten oder -Tool finden Sie unter Amazon Bedrock AgentCore
CloudWatch generative KI-Observability bietet zwei vorgefertigte Dashboards:
Anmerkung
Sie müssen Amazon Bedrock aktivieren, um das Model Invocation-Dashboard anzeigen zu können.
Model Invocations — Detaillierte Kennzahlen zur Modellnutzung, zum Token-Verbrauch und zu den Kosten
Amazon AgentCore Bedrock-Agenten — Leistungs- und Entscheidungsmetriken für die Amazon Bedrock-Agenten
Zu den wichtigsten Kennzahlen, die in diesen Dashboards verfügbar sind, gehören:
Gesamtzahl und Durchschnitt der Aufrufe
Token-Nutzung (insgesamt, Durchschnitt pro Abfrage, Eingabe, Ausgabe)
Latenz (Durchschnitt, P90, P99)
Fehlerraten und Drosselungsereignisse
Kostenzuweisung nach Anwendung, Benutzerrolle oder spezifischem Benutzer
