As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Monitorando o desempenho do Amazon Bedrock
Você pode monitorar todas as partes do seu aplicativo Amazon Bedrock usando a Amazon CloudWatch, que coleta dados brutos e os processa em métricas legíveis, quase em tempo real. Você pode representar graficamente as métricas usando o CloudWatch console. Também é possível definir alarmes que observam determinados limites e enviam notificações ou realizam ações quando os valores excedem esse limites.
Para obter mais informações, consulte O que é a Amazon CloudWatch no Guia CloudWatch do usuário da Amazon.
Tópicos
Monitore a invocação do modelo usando CloudWatch Logs e Amazon S3
Monitore o Amazon Bedrock Guardrails usando métricas CloudWatch
Monitore os agentes Amazon Bedrock usando métricas CloudWatch
Monitore as mudanças no estado de trabalho do Amazon Bedrock usando a Amazon EventBridge
Monitore as chamadas da API Amazon Bedrock usando CloudTrail
Métricas de runtime do Amazon Bedrock
A tabela a seguir descreve as métricas de tempo de execução fornecidas pelo Amazon Bedrock.
| Nome da métrica | Unidade | Descrição |
|---|---|---|
| Invocações | SampleCount | Número de solicitações bem-sucedidas para as operações da Converse ConverseStream, InvokeModel, e InvokeModelWithResponseStreamda API. |
|
InvocationLatency |
MilliSeconds |
Latência das invocações.
|
|
InvocationClientErrors |
SampleCount |
Número de invocações que resultam em erros do lado do cliente. |
|
InvocationServerErrors |
SampleCount |
Número de invocações que resultam em erros do lado do AWS servidor. |
|
InvocationThrottles |
SampleCount |
Número de invocações que o sistema limitou. Solicitações limitadas e outros erros de invocação não contam como invocações nem como erros. O número de aceleradores que você verá dependerá das configurações de nova tentativa no SDK. Para obter mais informações, consulte o comportamento de repetição no Guia de referência de ferramentas AWS SDKs e ferramentas. |
|
InputTokenCount |
SampleCount |
Número de tokens na entrada. |
| LegacyModelInvocations | SampleCount | Número de invocações usando modelos herdados |
|
OutputTokenCount |
SampleCount |
Número de tokens na saída. |
|
OutputImageCount |
SampleCount |
Número de imagens na saída (aplicável somente a modelos de geração de imagens). |
Também há métricas para Amazon Bedrock Guardrails e Amazon Bedrock Agents.
CloudWatch métricas para Amazon Bedrock
Para cada tentativa de entrega bem-sucedida ou falha, as seguintes CloudWatch métricas da Amazon são emitidas sob o namespace AWS/Bedrock e a dimensão: Across all model IDs
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Para recuperar métricas para as operações do Amazon Bedrock, especifique as seguintes informações:
-
A dimensão da métrica. Uma dimensão é um conjunto de pares de nome-valor que você usa para identificar uma métrica. O Amazon Bedrock é compatível com as seguintes dimensões:
-
ModelId: todas as métricas -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
O nome da métrica, como
InvocationClientErrors.
Você pode obter métricas para o Amazon Bedrock com a AWS Management Console AWS CLI, a ou a CloudWatch API. Você pode usar a CloudWatch API por meio de um dos kits de desenvolvimento de AWS software (SDKs) ou das ferramentas da CloudWatch API.
Para visualizar as métricas do Amazon Bedrock no CloudWatch console, acesse a seção de métricas no painel de navegação, selecione a opção Todas as métricas e, em seguida, pesquise o ID do modelo.
Você deve ter as CloudWatch permissões apropriadas para monitorar o Amazon Bedrock com. CloudWatch Para obter mais informações, consulte Autenticação e controle de acesso para a Amazon CloudWatch no Guia CloudWatch do usuário da Amazon.
