Monitore os agentes do Connect AI usando o CloudWatch Logs - Amazon Connect

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Monitore os agentes do Connect AI usando o CloudWatch Logs

Para obter visibilidade das recomendações em tempo real que os agentes do Connect AI fornecem aos seus agentes e das intenções do cliente que eles detectam por meio da compreensão da linguagem natural, você pode consultar CloudWatch os registros. CloudWatch Os registros oferecem visibilidade de toda a jornada de contato: a conversa, os gatilhos, as intenções e as recomendações. Você também pode usar essas informações para depuração ou fornecê-las Suporte ao entrar em contato com eles para obter ajuda.

Este tópico explica como ativar o registro em log para agentes do Connect AI.

Permissões obrigatórias do IAM

Antes de ativar o registro em um assistente Connect, verifique se você tem as seguintes AWS Identity and Access Management permissões. Elas são necessárias para a conta de usuário que está conectada ao console do Amazon Connect:

  • wisdom:AllowVendedLogDeliveryForResource: necessário para permitir a entrega de logs para o recurso de assistente.

Consulte um exemplo de perfil do IAM com todas as permissões necessárias para seu destino de registro em log específico em Logging that requires additional permissions [V2]. Esse tópico contém exemplos de diferentes destinos de registro, como registros enviados para CloudWatch Logs e logs enviados para o Amazon S3. Os exemplos mostram como permitir atualizações em seu recurso de destino de registro específico.

Ativar o registro para agentes do Connect AI

Para ativar o registro em log para agentes do Connect AI, você usa a CloudWatch API. Execute as etapas a seguir.

  1. Obtenha o ARN do seu assistente (também conhecido como domínio). Depois de criar um assistente, você pode obter seu ARN no console do Amazon Connect ou chamando a GetAssistantAPI. O ARN segue esse formato:

    arn:aws:wisdom:your-region:your-account-id:assistant/assistant-id

  2. Chamada PutDeliverySource: use essa CloudWatch API para criar uma fonte de entrega para o assistente. Passe o ARN do assistente como o resourceArn. Para logType, especifique EVENT_LOGS a fim de coletar logs do assistente.

    { "logType": "EVENT_LOGS", "name": "your-assistant-delivery-source", "resourceArn": "arn:aws:wisdom:your-region:your-account-id:assistant/assistant_id }
  3. Chamada PutDeliveryDestination: use essa CloudWatch API para configurar onde os registros devem ser armazenados. Você pode escolher CloudWatch Logs, Amazon S3 ou Amazon Data Firehose como destino para armazenar registros. Você deve especificar o ARN de uma das opções de destino de onde seus logs serão armazenados. Você pode escolher o outputFormat dos logs como um destes: json, plain, w3c, raw ou parquet.

    O exemplo a seguir mostra como configurar registros para serem armazenados em um grupo de CloudWatch registros da Amazon e no formato JSON.

    { "deliveryDestinationConfiguration": { "destinationResourceArn": "arn:aws:logs:your-region:your-account-id:log-group:your-log-group-name:*" }, "name": "string", "outputFormat": "json", "tags": { "key": "value" } }
  4. Chamada CreateDelivery: use essa CloudWatch API para vincular a fonte de entrega ao destino de entrega que você criou nas etapas anteriores. Essa operação de API associa a fonte de entrega ao destino final.

    { "deliveryDestinationArn": "string", "deliverySourceName": "string", "tags": { "string": "string" } }

Tipos de log compatíveis

Os agentes do Connect AI são compatíveis com o seguinte tipo de registro:

  • EVENT_LOGS: registros que rastreiam eventos de um assistente Connect durante chamadas, bate-papos, tarefas e e-mails.

Verifique as cotas CloudWatch de registros

Recomendamos verificar CloudWatch os endpoints e as cotas do Amazon Logs para ver se há alguma cota para fazer CloudWatch chamadas de API relacionadas à entrega do Logs. As cotas definem um número máximo de vezes que você pode chamar uma API ou criar um recurso. Exceder o limite resulta em um erro ServiceQuotaExceededException.

Documentando CloudWatch eventos usando o Interactive Handler

Definições dos tipos de evento

A tabela a seguir descreve cada tipo de evento. Observe que diferentes tipos de evento contêm campos diferentes. Consulte a seção Definições dos campos para obter informações detalhadas sobre cada campo.

EventType Definição
TRANSCRIPT_CREATE_SESSION Registrado quando uma nova sessão de agentes do Connect AI é criada. Isso marca o início de uma conversa.
TRANSCRIPT_INTENT_TRIGGERING_REFERENCE Registrado em log quando uma intenção específica do cliente é detectada na conversa, o que pode acionar respostas ou fluxos de trabalho automatizados.
TRANSCRIPT_LARGE_LANGUAGE_MODEL_INVOCATION Registrado em log quando um grande modelo de linguagem (LLM) é invocado para gerar respostas ou processar conteúdo de conversa. Registra as entradas e saídas do LLM.
TRANSCRIPT_QUERY_ASSISTANT Registrado quando um dos seguintes agentes do Connect AI é chamado: AnswerRecommendation,, CaseSummarization,, EmailGenerativeAnswer, EmailOverview EmailResponse, ManualSearch. NoteTaking
TRANSCRIPT_RECOMMENDATION Registrado em log quando o sistema fornece uma recomendação a um atendente ou cliente, que pode incluir artigos de conhecimento, respostas geradas ou ações sugeridas.
TRANSCRIPT_RESULT_FEEDBACK Registrado em log quando é fornecido feedback sobre a utilidade ou relevância de um resultado de pesquisa ou consulta.
TRANSCRIPT_SELF_SERVICE_MESSAGE Registrado quando um cliente interage com um agente do SelfService Connect AI
TRANSCRIPT_SESSION_POLLED Registrado quando o sistema detecta que um agente está conectado a uma sessão (uma sessão é pesquisada quando uma chamada de GetRecommendations API é feita)
TRANSCRIPT_TRIGGER_DETECTION_MODEL_INVOCATION Registrado em log quando o modelo de detecção de gatilho é invocado para determinar se uma conversa tem intenções.
TRANSCRIPT_UTTERANCE Registrado em log quando uma mensagem é enviada por qualquer participante da conversa, registrando o conteúdo real da conversa.

Definições dos campos

A tabela a seguir descreve cada campo.

Campo Definição
ai_agent_id Identificador exclusivo para o recurso do agente Connect AI.
assistant_id Identificador exclusivo para o recurso Connect Assistant.
completion O texto de conclusão bruto retornado pelo LLM ou gerado para a mensagem.
connect_user_arn O nome do recurso da Amazon (ARN) do usuário do Connect que está acessando a sessão.
event_timestamp Carimbo de data/hora do Unix (em milissegundos) de quando o evento ocorreu.
event_type Tipo do evento, indicando qual ação ou processo ocorreu no sistema.
generation_id Identificador exclusivo para uma resposta específica gerada por IA.
intent O texto ou a descrição da intenção.
intent_clicked Booleano indicando se a recomendação foi acionada por uma intenção clicada.
intent_id Identificador exclusivo da intenção detectada.
issue_probability Probabilidade numérica (de 0,0 a 1,0) de que um problema tenha sido detectado na conversa (uma probabilidade maior que 0,5 invocará a geração de intenção).
is_recommendation_useful Booleano indicando se o usuário achou o resultado útil.
is_valid_trigger Booleano indicando se a análise do modelo de detecção resultou em um gatilho válido.
model_id Identificador do modelo de IA usado para invocar o LLM.
parsed_response A processed/parsed versão da resposta do modelo de linguagem, geralmente em formato estruturado.
prompt O prompt de entrada usado para invocar o LLM.
prompt_type Tipo de prompt de IA usado para processar a mensagem ou consulta.
recomendação O conteúdo real do texto da recomendação fornecida ao usuário.
recommendation_id Identificador exclusivo da recomendação.
resposta O texto final da resposta gerada para o usuário após o processamento.
session_event_id Identificador exclusivo para um evento específico na sessão.
session_event_ids Lista de identificadores de eventos da sessão.
session_id Identificador exclusivo para a sessão de agentes do Connect AI.
session_message_id Identificador exclusivo para uma mensagem de autoatendimento em uma sessão.
session_name O nome da sessão.
enunciado O texto real da mensagem trocada na conversa.

Exemplos de logs do assistente

Abaixo estão exemplos de logs de eventos diferentes para cada tipo de evento. Consulte a seção Definições dos tipos de evento para obter explicações detalhadas de cada tipo de evento.

CreateSession

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173612, "event_type": "TRANSCRIPT_CREATE_SESSION", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa", "session_name": "nabbccdd-9999-4b23-aaee-112233445566" }

IntentTriggeringReference

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173623, "event_type": "TRANSCRIPT_INTENT_TRIGGERING_REFERENCE", "intent": "To learn about how to autoscale DynamoDB.", "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

LargeLanguageModelInvocation

Reformulação de consultas

{ "ai_agent_id": "ai112233-7a85-4b3c-8def-0123456789ab", "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "completion": "<query>The customer is asking for information on how to autoscale DynamoDB.</query>", "event_timestamp": 1729530173645, "event_type": "TRANSCRIPT_LARGE_LANGUAGE_MODEL_INVOCATION", "generation_id": "gabc1234-9def-47ff-bb88-abcdefabcdef", "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5" "model_id": "us.amazon.nova-lite-v1:0", "parsed_response": "The customer is asking for information on how to autoscale DynamoDB.", "prompt": "{\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":1024,\"system\":\"You are a...\"}", "prompt_type": "BEDROCK_KB_QUERY_REFORMULATION", "session_event_id": "seaa9988-2233-4f44-8899-abcabcabcabc", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

Detecção de intenções

{ "ai_agent_id": "ai112233-7a85-4b3c-8def-0123456789ab", "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "completion": "no</malice>\n - Step 2. <specific>yes</specific>\n - Step 3. <intent>To learn how to autoscale DynamoDB.</intent>", "event_timestamp": 1729530173645, "event_type": "TRANSCRIPT_LARGE_LANGUAGE_MODEL_INVOCATION", "generation_id": "gabc1234-9def-47ff-bb88-abcdefabcdef", "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5" "model_id": "us.amazon.nova-lite-v1:0", "parsed_response": "To learn how to autoscale DynamoDB.", "prompt": "{\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":1024,\"system\":\"You are a...\"}", "prompt_type": "GENERATIVE_INTENT_DETECTION", "session_event_id": "seaa9988-2233-4f44-8899-abcabcabcabc", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

Geração de respostas de intenção

{ "ai_agent_id": "ai112233-7a85-4b3c-8def-0123456789ab", "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "completion": "{\"citations\":[{\"citation\":{\"generatedResponsePart\":{\"textResponsePart\":{\"span\":{\"end\":1065,\"start\":0},\"text\":\"\\nDynamoDB auto s\"}}}}]}", "event_timestamp": 1729530173645, "event_type": "TRANSCRIPT_LARGE_LANGUAGE_MODEL_INVOCATION", "generation_id": "gabc1234-9def-47ff-bb88-abcdefabcdef", "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5", "model_id": "us.anthropic.claude-3-7-sonnet-20250219-v1:0", "parsed_response": "DynamoDB auto scaling works by creating CloudWatch alarms that monitor your table's activity. When the...", "prompt": "{\"input\":{\"text\":\"The customer is seeking information on how to autoscale DynamoDB. Key utterance: \\\"How can \"}}", "prompt_type": "BEDROCK_KB_GENERATIVE_ANSWER", "session_event_id": "seaa9988-2233-4f44-8899-abcabcabcabc", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

Geração de pesquisa manual

{ "ai_agent_id": "ai112233-7a85-4b3c-8def-0123456789ab", "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "completion": "no</malice>\n - Step 2. <specific>yes</specific>\n - Step 3. <intent>To learn how to autoscale DynamoDB.</intent>", "event_timestamp": 1729530173645, "event_type": "TRANSCRIPT_LARGE_LANGUAGE_MODEL_INVOCATION", "generation_id": "gabc1234-9def-47ff-bb88-abcdefabcdef", "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5", "model_id": "us.anthropic.claude-3-7-sonnet-20250219-v1:0", "parsed_response": "DynamoDB auto scaling works by creating CloudWatch alarms that monitor...", "prompt": "{\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":1024,\"system\":\"You are a...\"}", "prompt_type": "BEDROCK_KB_GENERATIVE_ANSWER", "session_id": "******************-*****************" }

QueryAssistant

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173667, "event_type": "TRANSCRIPT_QUERY_ASSISTANT", "recommendation_id": "r0001112-3f4e-4fa5-9111-aabbccddeeff", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

Recomendação

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173656, "event_type": "TRANSCRIPT_RECOMMENDATION", "intent_clicked": 1, "intent_id": "i78bc90-1234-4dce-8012-f0e1d2c3b4a5", "recommendation_id": "r0001112-3f4e-4fa5-9111-aabbccddeeff", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

ResultFeedback

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173667, "event_type": "TRANSCRIPT_RESULT_FEEDBACK", "generation_id": "gabc1234-9def-47ff-bb88-abcdefabcdef", "is_recommendation_useful": 1, "recommendation_id": "r0001112-3f4e-4fa5-9111-aabbccddeeff" }

SelfServiceMessage

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "completion": "{\"citations\":[{\"generatedResponsePart\":{\"textResponsePart\":{\"span\":{\"end\":276,\"start\":0},\"text\":\"To autoscale Amazon DynamoDB...\"}}]}", "event_timestamp": 1729530173678, "event_type": "TRANSCRIPT_SELF_SERVICE_MESSAGE", "model_id": "us.amazon.nova-pro-v1:0", "parsed_response": "To autoscale Amazon DynamoDB, follow these steps:...", "prompt": "{\"input\":{\"text\":\"how to autoscale dynamodb\"},\"retrieveAndGenerateConfiguration\":...}", "prompt_type": "SELF_SERVICE_ANSWER_GENERATION", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa", "session_message_id": "mdee1234-5678-4eab-9333-ffeebb998877", "utterance": "[Customer] How can I autoscale DyanmoDB?" }

TranscriptSessionPolled

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "connect_user_arn": "arn:aws:connect:us-east-1:204585150770:instance/seaa9988-2233-4f44-8899-abcabcabcabc/agent/agbbccdd-9999-4b23-aaee-112233445566", "event_timestamp": 1729530173623, "event_type": "TRANSCRIPT_SESSION_POLLED", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa", "session_name": "nabbccdd-9999-4b23-aaee-112233445566" }

TriggerDetectionModelInvocation

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173634, "event_type": "TRANSCRIPT_TRIGGER_DETECTION_MODEL_INVOCATION", "is_valid_trigger": 1, "issue_probability": "0.87", "session_event_id": "seaa9988-2233-4f44-8899-abcabcabcabc", "session_event_ids": ["seaa9988-2233-4f44-8899-abcabcabcabc"], "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa" }

Enunciado

{ "assistant_id": "a1c2d3e4-5b67-4a89-9abc-def012345678", "event_timestamp": 1729530173623, "event_type": "TRANSCRIPT_UTTERANCE", "session_event_id": "seaa9988-2233-4f44-8899-abcabcabcabc", "session_id": "s9f8e7d6-1234-4cde-9abc-ffeeddccbbaa", "utterance": "[Customer] My laptop won't connect to WiFi after the recent update" }

Exemplos de consultas comuns para depurar logs do assistente

Você pode interagir com logs usando consultas. Por exemplo, você pode consultar todos os eventos em uma sessão usando SESSION_NAME.

A seguir estão duas consultas comuns para retornar todos os logs gerados para uma sessão específica.

  • filter session_name = "SessionName"

  • filter session_id = "SessionId"