Überwachung der Leistung von Amazon Bedrock - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überwachung der Leistung von Amazon Bedrock

Sie können alle Teile Ihrer Amazon Bedrock-Anwendung mithilfe von Amazon überwachen. Amazon CloudWatch sammelt Rohdaten und verarbeitet sie zu lesbaren, nahezu in Echtzeit verfügbaren Metriken. Sie können die Metriken mithilfe der CloudWatch Konsole grafisch darstellen. Sie können auch Alarme einrichten, die auf bestimmte Grenzwerte achten und Benachrichtigungen senden oder Aktivitäten auslösen, wenn diese Grenzwerte überschritten werden.

Weitere Informationen finden Sie unter Was ist Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.

Amazon Bedrock-Laufzeitmetriken

In der folgenden Tabelle werden die von Amazon Bedrock bereitgestellten Laufzeitmetriken beschrieben.

Metrikname Einheit Beschreibung
Aufrufe SampleCount Anzahl der erfolgreichen Anfragen an die Converse -, ConverseStreamInvokeModel, und InvokeModelWithResponseStreamAPI-Operationen.

InvocationLatency

MilliSeconds

Latenz der Aufrufe

InvocationClientErrors

SampleCount

Anzahl der Aufrufe, die zu clientseitigen Fehlern führen

InvocationServerErrors

SampleCount

Anzahl der Aufrufe, die zu serverseitigen Fehlern führen. AWS

InvocationThrottles

SampleCount

Anzahl der Aufrufe, die das System gedrosselt hat Gedrosselte Anfragen und andere Aufruffehler zählen weder als Aufrufe noch als Fehler. Die Anzahl der Drosselungen, die Sie sehen, hängt von Ihren Einstellungen für Wiederholungsversuche im SDK ab. Weitere Informationen finden Sie unter Verhalten bei Wiederholungsversuchen im Referenzhandbuch AWS SDKs und im Tools-Referenzhandbuch.

InputTokenCount

SampleCount

Anzahl der Token in der Eingabe.

LegacyModelInvocations SampleCount Anzahl der Aufrufe mit Legacy-Modellen

OutputTokenCount

SampleCount

Anzahl der Token in der Ausgabe.

OutputImageCount

SampleCount

Anzahl der Bilder in der Ausgabe (gilt nur für Modelle zur Bilderzeugung).

Es gibt auch Metriken für Amazon Bedrock Guardrails und Amazon Bedrock Agents.

CloudWatch Metriken für Amazon Bedrock

Für jeden erfolgreichen oder fehlgeschlagenen Zustellversuch werden die folgenden CloudWatch Amazon-Metriken unter dem Namespace AWS/Bedrock und der Across all model IDs Dimension ausgegeben:

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Geben Sie die folgenden Informationen an, um Metriken für Amazon–Bedrock-Operationen abzurufen:

  • Die Metrikdimension. Eine Dimension bezeichnet eine Reihe von Name-Wert-Paaren, mit denen eine Kennzahl eindeutig identifiziert wird. Amazon Bedrock unterstützt die folgenden Dimensionen:

    • ModelId – alle Metriken

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • Der Metrikname, beispielsweise InvocationClientErrors.

Sie können Metriken für Amazon Bedrock mit der AWS Management Console AWS CLI, der oder der CloudWatch API abrufen. Sie können die CloudWatch API über eines der AWS Software Development Kits (SDKs) oder die CloudWatch API-Tools verwenden.

Um Amazon Bedrock-Metriken in der CloudWatch Konsole anzuzeigen, gehen Sie zum Abschnitt Metriken im Navigationsbereich, wählen Sie die Option Alle Metriken aus und suchen Sie dann nach der Modell-ID.

Sie müssen über die entsprechenden CloudWatch Berechtigungen verfügen, um Amazon Bedrock mit überwachen zu können. CloudWatch Weitere Informationen finden Sie unter Authentifizierung und Zugriffskontrolle für Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.