Reter o contexto conversacional em várias sessões usando a memória - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Reter o contexto conversacional em várias sessões usando a memória

A memória fornece ao agente a capacidade de reter o contexto conversacional em várias sessões e de relembrar ações e comportamentos anteriores. Por padrão, o agente retém o contexto conversacional de uma única sessão. Para configurar a memória do agente, habilite a respectiva configuração e especifique a duração da retenção da memória no armazenamento.

O contexto conversacional é armazenado na memória como sessões, e cada sessão recebe um identificador (ID), que é fornecido quando você invoca o agente. É possível especificar o mesmo ID de sessão entre solicitações para continuar a mesma conversa.

Depois de habilitar a memória para o agente, a sessão atual é associada a um contexto de memória específico quando você invoca o agente com o mesmo sessionId da sessão atual e com endSessions definido como “true“ ou quando o idleSessionTimeout configurado para o agente atingiu o tempo limite. Esse contexto de memória recebe um identificador de memória exclusivo. O agente usa o contexto de memória para acessar e utilizar o histórico e os resumos de conversas armazenados para gerar respostas.

Se você tiver vários usuários, forneça o mesmo identificador de memória (memoryId) para o mesmo usuário. O agente armazena a memória de cada usuário nesse memoryId e, na próxima vez que você invocar o agente com o mesmo memoryId, o resumo de cada sessão armazenada na memória será carregado na sessão atual.

É possível acessar a memória a qualquer momento para ver a versão resumida das sessões armazenadas na memória. Você também pode, a qualquer momento, limpar a memória excluindo todas as sessões armazenadas.

Sumarização de memória

Seu agente usa a sumarização de memória (consulte Melhorar a precisão dos agentes usando modelos de prompts avançados no Amazon Bedrock) para chamar o modelo de base com diretrizes para resumir todas as suas sessões. Opcionalmente, você pode modificar o modelo de prompt padrão ou fornecer seu analisador personalizado para analisar a saída do modelo.

Como o processo de sumarização ocorre em um fluxo assíncrono após o término da sessão, os logs de quaisquer falhas na sumarização decorrentes da substituição do modelo ou do analisador serão publicados em suas Contas da AWS. Para ter mais informações sobre como habilitar o registro em log, consulte Habilitar a entrega de log do resumo de memória.

Duração da memória

Se a memória estiver habilitada, o agente reterá as sessões na memória por até 365 dias. Opcionalmente, é possível configurar o período de retenção especificando uma duração de 1 a 365 dias. Todos os resumos de sessões além dessa duração serão excluídos.