As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Armazene e recupere o histórico e o contexto de conversas com APIs de gerenciamento de sessão
nota
As APIs de gerenciamento de sessão estão em versão prévia e estão sujeitas a alterações.
As APIs de gerenciamento de sessão permitem que você salve pontos de verificação para conversas contínuas em aplicações de IA generativa criadas com frameworks de código aberto, como LangGraph e LlamaIndex. Você pode usar as APIs para gerenciar com segurança o contexto do estado e da conversação em fluxos de trabalho de IA generativa de várias etapas. Você não precisa criar, manter ou escalar soluções de backend personalizadas para a persistência de estado e de contexto.
Com as APIs de gerenciamento de sessão, é possível fazer o seguinte:
-
Verificar os estágios do fluxo de trabalho do ponto de verificação para testes iterativos e fluxos de trabalho human-in-the-loop.
-
Retomar conversas e tarefas a partir do ponto de interrupção.
-
Examinar os logs de sessão para analisar os estágios do fluxo de trabalho e depurar falhas.
Como as sessões são um recurso no Amazon Bedrock, você pode controlar o acesso à sessão com o AWS Identity and Access Management (IAM). Por padrão, o Amazon Bedrock usa chaves gerenciadas pela AWS para criptografia de sessão, inclusive de metadados de sessão, mas você pode usar sua própria chave do AWS KMS. Para obter mais informações, consulte Criptografia de sessão.
Você pode criar e gerenciar sessões do Amazon Bedrock com as APIs do Amazon Bedrock ou SDKs da AWS. Para aplicações criadas no LangGraph, você pode usar a classe BedrockSessionSaver da biblioteca langgraph_checkpoint_aws.saver. Essa é uma implementação personalizada da CheckpointSaver do LangGraph. Para ter mais informações, consulte langgraph-checkpoint-aws
nota
Use uma sessão para armazenar o estado e o histórico de conversas para aplicações de IA generativa criadas com frameworks de código aberto. Para Agentes do Amazon Bedrock, o serviço gerencia automaticamente o contexto da conversa e o associa ao sessionId específico do agente que você especifica na operação de API InvokeAgent.
Tópicos
Exemplos de casos de uso
Você pode ter um aplicação que usa um agente do LangGraph para ajudar os clientes a planejar itinerários de viagem. Um usuário pode iniciar uma conversa com esse agente para criar o itinerário de uma próxima viagem, adicionando destinos, hotéis preferidos e detalhes do voo.
Com as APIs de gerenciamento de sessão, o agente pode salvar estados intermediários e o contexto persistente ao longo da interação estendida de várias etapas. O agente pode usar uma sessão do Amazon Bedrock para verificar o respectivo estado após a adição de cada destino, preservando detalhes sobre as preferências do cliente.
Se a conversa for interrompida ou falhar, o agente poderá retomar a sessão posteriormente com o contexto intacto, inclusive textos e imagens. Isso permite que o agente prossiga sem que o cliente precise repetir as informações. Além disso, em caso de falha, é possível investigar os detalhes da sessão para depurar a causa.
Fluxo de trabalho
O fluxo de trabalho para usar as APIs de gerenciamento de sessão é apresentado abaixo. Para ter mais informações sobre o uso da biblioteca BedrockSessionSaver, consulte Gerenciar sessões com a biblioteca BedrockSessionSaver do LangGraph.
-
Criar uma sessão: quando o usuário final inicia a conversa pela primeira vez, você cria uma sessão com a operação de API CreateSession e especifica um ID para a sessão. Você usa esse ID ao armazenar e recuperar o estado da conversa.
-
Armazenar conversas e contexto: à medida que os usuários finais interagirem com o assistente de IA generativa, use a API CreateInvocation para criar um agrupamento de interações dentro da sessão. Para cada invocação, use as operações de API PutInvocationStep para armazenar pontos de verificação de estado refinados, inclusive textos e imagens, para cada interação.
-
Recuperar o histórico e o contexto de conversas: use as operações de API GetSession, ListInvocations e GetInvocationStep para recuperar metadados da sessão e detalhes da interação.
-
Encerrar a sessão: quando a sessão estiver concluída, encerre-a com a operação de API EndSession. Depois de encerrar uma sessão, você ainda poderá acessar o conteúdo, mas não poderá ampliá-lo. Para excluir a sessão e o respectivo conteúdo, use a operação de API DeleteSession.
Considerações
Antes de criar e gerenciar sessões, verifique o seguinte:
-
Você pode criar e gerenciar sessões com as APIs do Amazon Bedrock e os SDKs da AWS. Não é possível usar o Console de Gerenciamento da AWS para gerenciar sessões.
-
Para aplicações de agentes criadas no LangGraph, você pode usar a classe
BedrockSessionSaverda bibliotecalangchain-aws. Essa é uma implementação personalizada da CheckpointSaver do LangGraph. Para ter mais informações sobre o uso da biblioteca BedrockSessionSaver, consulte Gerenciar sessões com a biblioteca BedrockSessionSaver do LangGraph. Para visualizar o código diretamente, consulte langgraph-checkpoint-awsno repositório LangChain no GitHub. -
Se você especificar uma chave do AWS KMS gerenciada pelo cliente ao criar uma sessão, o usuário ou o perfil que está criando a sessão deverá ter permissão para usar a chave. Para obter mais informações, Criptografia de sessão.
-
As APIs de gerenciamento de sessão têm as seguintes cotas:
-
Número de etapas de invocação em uma sessão em todas as invocações: 1.000.
-
Tamanho máximo de cada etapa de invocação: 50 MB.
-
Tempo limite de IdleSession: 1 hora.
-
Período de retenção: os dados da sessão são excluídos automaticamente após trinta dias.
-
