Melhorar a precisão dos agentes usando modelos de prompts avançados no Amazon Bedrock - Amazon Bedrock
Terminologia

Melhorar a precisão dos agentes usando modelos de prompts avançados no Amazon Bedrock

Após a criação, um agente é configurado com os quatro modelos de prompt de base a seguir, que descrevem como ele constrói prompts para enviar ao modelo de base em cada etapa da sequência do agente. Para obter detalhes sobre o que cada etapa abrange, consulte Processo de runtime.

  • Pré-processamento

  • Orquestração

  • Geração de resposta da base de conhecimento

  • Pós-processamento (desabilitado por padrão)

  • Sumarização de memória

  • Classificador de roteamento

Os modelos de prompt definem como o agente faz o seguinte:

  • Processa o texto de entrada do usuário e os prompts de saída dos modelos de base (FMs).

  • Faz a orquestração entre o FM, os grupos de ação e as bases de conhecimento.

  • Formata e exibe as respostas para o usuário.

Com o uso de prompts avançados, é possível aprimorar a precisão do agente modificando esses modelos de prompt para fornecer configurações detalhadas. Também é possível fornecer exemplos selecionados manualmente para prompts few shot, nos quais você melhora o desempenho do modelo fornecendo exemplos rotulados para uma tarefa específica.

Selecione um tópico para saber mais sobre os prompts avançados.

Tópicos

Terminologia de prompts avançados

A terminologia a seguir é útil para compreender como os prompts avançados funcionam.

  • Sessão: um grupo de solicitações InvokeAgent feitas ao mesmo agente com o mesmo ID de sessão. Ao fazer uma solicitação InvokeAgent, é possível reutilizar um sessionId que foi exibido da resposta de uma chamada anterior para retomar a mesma sessão com um agente. Desde que o tempo idleSessionTTLInSeconds definido na configuração do agente não tenha expirado, você manterá a mesma sessão com o agente.

  • Turno: uma única chamada de InvokeAgent. Uma sessão consiste em um ou mais turnos.

  • Iteração: uma sequência das seguintes ações:

    1. (Obrigatório) Uma chamada ao modelo de base

    2. (Opcional) Uma invocação de grupo de ação

    3. (Opcional) Uma invocação de base de conhecimento

    4. (Opcional) Uma resposta ao usuário solicitando mais informações

    Uma ação pode ser ignorada dependendo da configuração do agente ou da necessidade do agente em determinado momento. Um turno consiste em uma ou mais iterações.

  • Prompt: um prompt consiste nas instruções do agente, no contexto e na entrada de texto. A entrada de texto pode vir de um usuário ou da saída de outra etapa na sequência do agente. O prompt é fornecido ao modelo de base para determinar a próxima etapa que o agente executará para responder à entrada do usuário.

  • Modelo de prompt de base: os elementos estruturais que compõem um prompt. O modelo consiste em espaços reservados que são preenchidos com a entrada do usuário, a configuração do agente e o contexto em tempo de execução a fim de criar um prompt a ser processado pelo modelo de base quando o agente atingir essa etapa. Para ter mais informações sobre esses espaços reservados, consulte Usar variáveis de espaço reservado nos modelos de prompt de agente do Amazon Bedrock. Com os prompts avançados, é possível editar esses modelos.

  • Referência à carga útil: um recurso de compactação de prompts que é usado com a colaboração multiagente e habilitado para o agente principal por padrão. Isso ajuda a reduzir não apenas os tokens de saída que o agente principal usa para se comunicar com o subagente ou o usuário final, mas também os custos. Reduz ainda o tamanho do histórico de conversas se houver cargas úteis repetidas no prompt.