Monitora gli agenti Amazon Bedrock utilizzando i parametri CloudWatch - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Monitora gli agenti Amazon Bedrock utilizzando i parametri CloudWatch

La tabella seguente descrive i parametri di runtime forniti da Amazon Bedrock Agents che puoi monitorare con Amazon CloudWatch Metrics.

Metriche di runtime

Nome parametro Unità Description
InvocationCount SampleCount Il numero di richieste all’operazione API
TotalTime Millisecondi Tempo impiegato dal server per elaborare la richiesta
TTFT Millisecondi Time-to-first-token metrico. Emessa quando la configurazione streaming è abilitata per una richiesta invokeAgent o invokeInlineAgent
InvocationThrottles SampleCount Numero di invocazioni limitate dal sistema. Le richieste con limitazione e altri errori di invocazione non vengono contate come invocazioni o errori.
InvocationServerErrors SampleCount Numero di chiamate che generano errori sul lato server AWS
InvocationClientErrors SampleCount Numero di invocazioni che provocano errori sul lato client
ModelLatency Millisecondi La latenza del modello
ModelInvocationCount SampleCount Numero di richieste che l’agente ha inviato al modello
ModelInvocationThrottles SampleCount Numero di invocazioni del modello limitate dal core di Amazon Bedrock. Le richieste con limitazione e altri errori di invocazione non vengono contate come invocazioni o errori.
ModelInvocationClientErrors SampleCount Numero di invocazioni del modello che provocano errori sul lato client
ModelInvocationServerErrors SampleCount Numero di richiami del modello che generano errori sul lato server AWS
InputTokenCount SampleCount Numero di token inviati al modello
outputTokenCount SampleCount Numero di token emessi dal modello

È possibile visualizzare le dimensioni dell'agente nella CloudWatch console in base alla tabella seguente:

Dimensione

Nome dimensione Valori della dimensione Disponibile per le seguenti metriche
Operation InvokeAgent, InvokeInlineAgent
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrori

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Funzionamento, ModelId Ogni operazione di Agent per Amazon Bedrock elencata nella dimensione Operation e in modelId di qualsiasi modello di base di Amazon Bedrock
  • TotalTime

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrori

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Funzionamento AgentAliasArn, ModelId Ogni operazione di Agent per Amazon Bedrock elencata nella dimensione Operation e in modelId di qualsiasi modello di Amazon Bedrock, raggruppata da agentAliasArn di un alias di un agente
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErrori

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Usa le CloudWatch metriche per gli agenti

Puoi ottenere metriche per gli agenti con la console di AWS gestione, la AWS CLI o CloudWatch l'API. Puoi utilizzare l' CloudWatch API tramite uno dei AWS Software Development Kit (SDKs) o gli CloudWatch strumenti API.

Lo spazio dei nomi per le metriche degli agenti in è. CloudWatch AWS/Bedrock/Agents

È necessario disporre delle CloudWatch autorizzazioni appropriate con cui monitorare gli agenti. CloudWatch Per ulteriori informazioni, consulta Autenticazione e controllo degli accessi CloudWatch nella Guida per l' CloudWatch utente.

Importante

Se non desideri CloudWatch utilizzare i dati raccolti per migliorare il CloudWatch servizio, puoi creare una politica di esclusione. Per ulteriori informazioni, consulta le policy di non adesione ai servizi di IA.

Se non vedi le metriche pubblicate nella CloudWatch dashboard, assicurati che il ruolo del servizio IAM che hai utilizzato per creare l'agente abbia la seguente politica.

JSON
{ "Version":"2012-10-17", "Statement": { "Effect": "Allow", "Resource": "*", "Action": "cloudwatch:PutMetricData", "Condition": { "StringEquals": { "cloudwatch:namespace": "AWS/Bedrock/Agents" } } } }