Configurar um agente em linha em runtime - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Configurar um agente em linha em runtime

Você pode configurar e invocar dinamicamente um agente embutido do Amazon Bedrock em tempo de execução usando a API. InvokeInlineAgent O uso de um agente em linha oferece flexibilidade para especificar os recursos do agente, como modelos de base, instruções, grupos de ação, barreiras de proteção e bases de conhecimento, ao mesmo tempo em que você invoque o agente. Não é necessário predefinir os recursos do agente para poder usá-lo.

Veja alguns dos casos de uso em que o uso de agentes em linha pode ajudar ao oferecer flexibilidade para configurar o agente no momento da invocação.

  • Faça experiências rápidas testando vários recursos de agente com diferentes configurações e atualizando dinamicamente as ferramentas disponíveis para o agente sem criar agentes separados.

  • Invoque dinamicamente um agente para realizar tarefas específicas sem criar versões do agente ou preparar o agente.

  • Execute consultas simples ou use o interpretador de código para tarefas simples criando e invocando o agente em runtime.

  • Crie vários agentes em uma configuração de colaboração multiagente para trabalharem juntos em uma tarefa ou conversa.

    Para usar a colaboração multiagente, você pode criar seus agentes nas seguintes combinações usando agentes embutidos. APIs

    Tipos de agente
    Supervisor Colaborador
    Em linha Em linha
    Em linha Tradicional

Modelos e regiões compatíveis

Você pode usar qualquer modelo de base aceito pelos Agentes do Amazon Bedrock para configurar o agente em linha e invocá-lo em qualquer uma das regiões em que é possível usar os Agentes do Amazon Bedrock. Para ter mais informações sobre os modelos e regiões compatíveis com os Agentes do Amazon Bedrock, consulte o seguinte:

Com agentes em linha, é possível alternar entre os modelos. Recomendamos que você alterne entre os modelos que pertencem à mesma família. Alternar entre modelos que pertencem a famílias diferentes pode provocar comportamentos inconsistentes e falhas.

No momento, não é possível configurar e invocar um agente em linha no console do Amazon Bedrock.

Diretrizes sobre como usar modelos de prompts avançados para agentes em linha

  • Modelos de prompts básicos: por padrão, o Amazon Bedrock usará o modelo padrão de prompts básico para o agente em linha, e os prompts podem ser alterados em segundo plano a qualquer momento. Isso pode tornar as respostas inconsistentes. Se quiser respostas consistentes para suas consultas, personalize o comportamento do agente em linha substituindo a lógica no modelo de prompts básicos padrão por suas próprias configurações. Para ter mais informações, consulte Modelos de prompts avançados.

  • Criptografia: use a customer managed key para criptografar os detalhes da sessão em repouso/armazenamento. Se uma sessão for iniciada com uma chave gerenciada pelo cliente, ela será necessária para todas as solicitações futuras feitas para a mesma sessão. Usar uma chave gerenciada pelo cliente diferente para as mesmas sessões resultará em uma exceção.

  • Compartilhamento de sessão: no futuro, todas as sessões serão em nível de conta e não em nível de perfil. É possível isolar as sessões em nível de agente especificando um valor exclusivo para agentName.

  • Estado das sessões em linha: os atributos em InlineSessionState persistem durante a sessão. Use os atributos para fornecer contexto adicional para o modelo e obter prompts few-shot.