Monitoraggio delle prestazioni di Amazon Bedrock
Puoi monitorare tutte le parti dell’applicazione Amazon Bedrock utilizzando Amazon CloudWatch, che raccoglie i dati non elaborati e li elabora trasformandoli in metriche leggibili quasi in tempo reale. Puoi avere una rappresentazione grafica delle metriche tramite la console CloudWatch. Puoi anche impostare allarmi che controllano determinate soglie e inviare notifiche o intraprendere azioni quando i valori superano queste soglie.
Per ulteriori informazioni, consulta la sezione Che cos’è Amazon CloudWatch nella Guida per l’utente di Amazon CloudWatch.
Argomenti
Monitorare l’invocazione di un modello utilizzando CloudWatch Logs e Amazon S3
Monitoraggio di Guardrail per Amazon Bedrock utilizzando le metriche CloudWatch
Monitoraggio di Agent per Amazon Bedrock con le metriche CloudWatch
Monitorare le modifiche dello stato di un processo Amazon Bedrock utilizzando Amazon EventBridge
Monitorare le chiamate API Amazon Bedrock mediante CloudTrail
Metriche di runtime Amazon Bedrock
La tabella seguente descrive le metriche di runtime fornite da Amazon Bedrock.
| Nome parametro | Unità | Descrizione |
|---|---|---|
| Invocazioni | SampleCount | Numero di richieste riuscite alle operazioni API Converse, ConverseStream, InvokeModel e InvokeModelWithResponseStream. |
|
InvocationLatency |
MilliSeconds |
Latenza delle invocazioni.
|
|
InvocationClientErrors |
SampleCount |
Numero di invocazioni che provocano errori sul lato client. |
|
InvocationServerErrors |
SampleCount |
Numero di invocazioni che provocano errori sul lato server AWS. |
|
InvocationThrottles |
SampleCount |
Numero di invocazioni limitate dal sistema. Le richieste con limitazione e altri errori di invocazione non vengono contate come invocazioni o errori. Il numero di limitazioni visualizzato dipenderà dalle impostazioni dei nuovi tentativi nell’SDK. Per ulteriori informazioni, consulta Comportamento della ripetizione dei tentativi negli SDK AWS e nella Guida di riferimento degli strumenti. |
|
InputTokenCount |
SampleCount |
Numero di token nell’input. |
| LegacyModelInvocations | SampleCount | Numero di invocazioni che utilizzano modelli Legacy |
|
OutputTokenCount |
SampleCount |
Numero di token nell’output. |
|
OutputImageCount |
SampleCount |
Numero di immagini nell’output (applicabile solo per i modelli di generazione di immagini). |
Esistono anche metriche per Guardrail per Amazon Bedrock e Agent per Amazon Bedrock.
Metriche di CloudWatch per Amazon Bedrock
Per ogni tentativo di consegna riuscito o non riuscito vengono emesse le seguenti metriche di Amazon CloudWatch nello spazio dei nomi AWS/Bedrock e nella dimensione Across all model IDs:
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Per recuperare le metriche per le operazioni di Amazon Bedrock, specifica le seguenti informazioni:
-
La dimensione del parametro. Una dimensione è un set di coppie nome-valore utilizzate per identificare una metrica. Amazon Bedrock supporta le seguenti dimensioni:
-
ModelId: tutte le metriche -
ModelId + ImageSize + BucketedStepSize: OutputImageCount
-
-
Il nome del parametro, ad esempio
InvocationClientErrors.
Puoi recuperare le metriche per Amazon Bedrock con la Console di gestione AWS, AWS CLI o l’API CloudWatch. Puoi anche usare l’API CloudWatch tramite uno degli SDK (Software Development Kit) AWS o gli strumenti dell’API CloudWatch.
Per visualizzare i parametri di Amazon Bedrock nella console CloudWatch, vai alla sezione metriche nel riquadro di navigazione e seleziona l’opzione tutti i parametri, quindi cerca l’ID modello.
Devi disporre delle autorizzazioni CloudWatch appropriate per monitorare Amazon Bedrock con CloudWatch. Per ulteriori informazioni, consulta Autenticazione e controllo degli accessi per Amazon CloudWatch nella Guida per l’utente di Amazon CloudWatch.
