Agentenansicht - Amazon CloudWatch

Agentenansicht

Die Agentenansicht bietet ein kuratiertes Dashboard für die Agenten des Kontos. Sie können Daten von Agenten anzeigen, die auf AWS-nativen Services wie AgentCore Runtime, Lambda oder Amazon EC2 gehostet werden. In der Ansicht werden auch Agenten angezeigt, die Telemetrie an CloudWatch ausgeben.

Übersicht

Die Metriken und Dashboards zeigen Daten ausgewählter Agent-Spans. Weitere Informationen zu Agent-Spans finden Sie unter Spans.

Die folgenden Agentenmetriken werden unterstützt:

  • Agenten/Aliasse – Anzahl der Agenten und Aliasse, die instrumentiert wurden und Spans ausgeben

  • Sitzungen – Anzahl der Sitzungen, die von instrumentierten Agenten, die Spans aussenden, erstellt wurden. Eine Sitzung ähnelt einer Konversation und umfasst den allgemeinen Kontext

  • Ablaufverfolgungen – Anzahl der Ablaufverfolgungen, die von instrumentierten Agenten, die Spans aussenden, erstellt wurden. Eine Ablaufverfolgung ist ein individueller Anfrage-Antwort-Zyklus innerhalb einer Sitzung

  • Fehlerrate – Prozentsatz der Fehler bei Agenteninteraktionen

  • Drosselungsrate – Prozentsatz der gedrosselten Agenteninteraktionen

Wählen Sie Details anzeigen aus, um die Agenten-Metriken in Diagrammen anzuzeigen.

Agentenansicht

Laufzeitmetriken

In den Laufzeitmetriken und -Dashboards werden Daten aus der Laufzeitstammfunktion angezeigt. Mit dieser Stammfunktion können Sie Ihre Agenten auf der Amazon-Bedrock-AgentCore-Laufzeit hosten. Weitere Informationen finden Sie unter Erstellen einer AgentCore Runtime.

AgentCore Runtime unterstützt diese Metriken

  • Laufzeitagenten/-aliasse – Verfolgt die Anzahl der Agenten und Aliasse, die auf AgentCore Runtime gehostet werden

  • Laufzeitsitzungen – Verfolgt die Anzahl der Sitzungen, die von Agenten erstellt wurden, die in AgentCore Runtime ausgeführt werden. Eine Sitzung ähnelt einer Konversation und umfasst den allgemeinen Kontext des gesamten Interaktions-Flows. Nützlich für die Überwachung der gesamten Plattformnutzung, die Kapazitätsplanung und das Verständnis für die Benutzerbindungsmuster

  • Laufzeitaufrufe – Gesamtzahl der Anfragen an die API der Datenebene. Jeder API-Aufruf zählt als ein Aufruf, unabhängig von der Größe der Anforderungsnutzlast oder dem Antwortstatus

  • Laufzeitfehler – Die Anzahl der System- und Benutzerfehler. Definitionen von System- und Benutzerfehlern finden Sie unter Von AgentCore bereitgestellte Laufzeitmetriken

  • Laufzeitdrosselungen – Die Anzahl der Anfragen, die vom Service gedrosselt werden, aufgrund der Überschreitung der zulässigen TPS (Transaktionen pro Sekunde). Diese Anfragen geben ThrottlingException mit dem HTTP-Statuscode 429 zurück. Überwachen Sie diese Metrik, um festzustellen, ob Sie Ihre Service Quotas überprüfen oder die Anforderungsmuster optimieren müssen

Betrachten Sie die Änderungen der Metriken im Zeitverlauf auf dem Standard-Dashboard. Erweitern Sie Details anzeigen, um Metrikdiagramme anzusehen.

Laufzeitansicht

Kundendienstmitarbeiters (Kundendienstmitarbeiter)

Agenten sind Komponenten, die Überwachungsdaten aus den Anwendungen sammeln und senden. In der Agententabelle werden alle in Ihrem Konto konfigurierten Agenten aufgeführt. Diese Agenten können auf AWS-nativen Services wie AgentCore Runtime, Lambda oder Amazon EC2 gehostet werden. Die Tabelle enthält auch andere Agenten, die so instrumentiert sind, dass sie Telemetrie an CloudWatch senden.

Sie können Filter-Agenten verwenden, um einen bestimmten Agenten zu finden, den Sie genauer untersuchen möchten, oder Sie können die Agenten auch anhand der Spaltennamen sortieren, um den gewünschten Agenten zu finden. Wählen Sie das Zahnradsymbol aus, um weitere Spalten ein- oder auszublenden.

Laufzeitagenten-Ansicht

Sie können die Details des Agenten ansehen, indem Sie den Agentennamen erweitern.

Laufzeitagenten in der Übersicht

Agentendetails – Übersicht

Auf der Registerkarte „Übersicht“ werden automatisch Dashboards für die Agentenmetriken angezeigt. Diese Metriken stammen aus Stichproben von Spans und Laufzeitmetriken (wenn der Agent AgentCore Runtime nutzt).

Das Agent-Metriken-Dashboard enthält Metriken, die aus Stichproben-Spans abgeleitet wurden:

  • Sitzungen und Ablaufverfolgungen – Anzahl der Sitzungen und Ablaufverfolgungen für diesen Agenten

  • Nutzung von FM-Tokens – Gesamtzahl des Token-Verbrauchs im Grundlagenmodell. Sie können das Diagramm nach einem bestimmten Grundlagenmodell filtern

  • System- und Clientfehler – Anzahl der Systemfehler während der Anforderungsverarbeitung. Ein hohes Maß an serverseitigen Fehlern kann auf potenzielle Infrastruktur- oder Serviceprobleme hindeuten, die zu untersuchen sind. Clientfehler sind Fehler, die auf ungültige Anfragen zurückzuführen sind. Ein hohes Maß an clientseitigen Fehlern kann auf Probleme mit der Formatierung oder den Berechtigungen der Anfragen hinweisen

  • Fehler und Latenz nach Span – Die Fehlerraten und die Latenz nach einem bestimmten Span. Beachten Sie, dass ein Span in vielen Agenten auftreten kann

  • Drosselungen – Anzahl der Anfragen, die vom Service gedrosselt werden, aufgrund der Überschreitung der zulässigen TPS (Transaktionen pro Sekunde)

Das Laufzeitmetrik-Dashboard enthält Metriken, die AgentCore Runtime automatisch generiert:

  • Laufzeitsitzungen und -Aufrufe – Anzahl der Sitzungen und Aufrufe, die dieser spezielle Agent generiert hat, während er auf Runtime gehostet wurde

  • Laufzeitlatenz – Latenz der Anfragen von Agenten, die auf Runtime gehostet werden

  • Laufzeitdrosselungen – Anzahl der Anfragen, die vom Service gedrosselt werden, aufgrund der Überschreitung der zulässigen TPS (Transaktionen pro Sekunde)

Agentendetails – Sitzungen

Ein Agent kann über mehrere Sitzungen verfügen. Rufen Sie die Sitzung auf der Registerkarte Sitzungen auf. Verwenden Sie die Option Sitzungen filtern oder sortieren Sie die Spalten, um die gewünschte Sitzung zu finden.

Wählen Sie die Sitzungs-ID aus, um die Metriken der Sitzungszusammenfassung und die Liste der zu dieser Sitzung gehörenden Ablaufverfolgungen anzusehen. Zu den Sitzungsmetriken zählen:

  • Ablaufverfolgungen – Anzahl der Ablaufverfolgungen, die zu den Sitzungen gehören

  • Serverfehler – Anzahl der Systemfehler während der Anforderungsverarbeitung. Ein hohes Maß an serverseitigen Fehlern kann auf potenzielle Infrastruktur- oder Serviceprobleme hindeuten, die zu untersuchen sind

  • Clientfehler – Clientfehler sind Fehler, die auf ungültige Anfragen zurückzuführen sind. Ein hohes Maß an clientseitigen Fehlern kann auf Probleme mit der Formatierung oder den Berechtigungen der Anfragen hinweisen

  • Drosselungen – Anzahl der gedrosselten Anfragen, die für diese Sitzung relevant sind, aufgrund der Überschreitung der zulässigen TPS (Transaktionen pro Sekunde)

  • Sitzungsdetails – Metadaten über die Sitzung wie Startzeit, Endzeit und Sitzungs-ID

Um eine Liste von Ablaufverfolgungen in einer Sitzung zu analysieren, wählen Sie Ablaufverfolgungen filtern, um die Tabellenspalten einzugrenzen oder zu sortieren, sodass die jeweilige Ablaufverfolgung, die Sie untersuchen möchten, angezeigt wird.

Nachdem Sie eine Ablaufverfolgung ausgewählt haben, werden im rechten Bereich die Details der Ablaufverfolgung angezeigt. Für jede Ablaufverfolgung können Sie die Ablaufverfolgungszusammenfassung, die Spans und die Inhaltsdetails der Ablaufverfolgungen sehen.

Unter Ablaufverfolgungszusammenfassung können Sie die folgenden Metriken einsehen:

Anmerkung

Die Felder auf der Übersichtsseite sind in der Agentenansicht, der Sitzungsansicht und der Ablaufverfolgungsansicht einheitlich.

  • Spans – Anzahl der Spans innerhalb einer Ablaufverfolgung

  • Serverfehler – Anzahl der Systemfehler während der Anforderungsverarbeitung. Ein hohes Maß an serverseitigen Fehlern kann auf potenzielle Infrastruktur- oder Serviceprobleme hindeuten, die zu untersuchen sind

  • Clientfehler – Clientfehler sind Fehler, die auf ungültige Anfragen zurückzuführen sind. Ein hohes Maß an clientseitigen Fehlern kann auf Probleme mit der Formatierung oder den Berechtigungen der Anfragen hinweisen

  • Drosselungen – Anzahl der Anfragen, die für diese Sitzung für die Drosselung relevant sind, aufgrund der Überschreitung der zulässigen TPS (Transaktionen pro Sekunde)

  • P95-Span-Latenz – Die Latenz von 95 Perzentil für alle Aufrufe dieses bestimmten Spans. Beachten Sie, dass ein Span übergreifend über viele Agenten verwendet werden kann

  • Ablaufverfolgungsdetails – Metadaten über die Ablaufverfolgung wie Startzeit, Endzeit und Ablaufverfolgungs-ID

Span-Ansicht

Wählen Sie Zeitleiste aus, um sich die Dauer jedes Spans anzusehen und zu verstehen, welcher Span am längsten gedauert hat und zu einer langsamen Reaktion beigetragen hat.

Trajectory-Ansicht

Um Span-Beziehungen und nachfolgende Aufrufe zu analysieren, wählen Sie Trajectory aus, um die Zusammenhänge zwischen Spans und nachfolgenden Aufrufen aus diesen Spans zu verstehen.

Wählen Sie unter Spans ein einzelnes Span-Ereignis aus, um die Span-Daten in der ursprünglichen Form zu überprüfen. Überprüfen Sie die Span-Daten in der ursprünglichen Form. Für eine detaillierte Problembehandlung wählen Sie die Registerkarte Ereignisse aus und untersuchen Sie die Modelleingaben und -ausgaben.

Agentendetails – Ablaufverfolgungen

Jeder Agent kann mehrere Ablaufverfolgungen haben. Ablaufverfolgungsdetails finden Sie auf der Registerkarte Ablaufverfolgungen. Wählen Sie Ablaufverfolgungen filtern aus oder sortieren Sie die Spalten, um die gewünschte Ablaufverfolgung zu finden.