Controlar como as ferramentas são escolhidas - Amazon Nova

Controlar como as ferramentas são escolhidas

O Amazon Nova Sonic é compatível com três parâmetros de escolha de ferramentas para ajudar você a gerenciar a execução da ferramenta. Você pode controlar qual ferramenta o modelo usa especificando o parâmetro toolChoice.

  • Tool: a opção tool garante que a ferramenta específica designada seja chamada exatamente uma vez no início da geração da resposta. Por exemplo, se você especificar uma ferramenta de base de conhecimento, o modelo consultará essa base de conhecimento antes de responder, independentemente de achar que a ferramenta é necessária.

  • Any: a opção any garante que pelo menos uma das ferramentas disponíveis seja chamada no início da geração da resposta, permitindo que o modelo selecione a mais adequada. Isso é útil quando você tem várias bases de conhecimento ou ferramentas e deseja garantir que o modelo aproveite pelo menos uma delas sem especificar qual.

  • Auto: com a opção auto, o modelo tem total flexibilidade para determinar se alguma ferramenta é necessária no início da geração da resposta e pode chamar várias ferramentas, se necessário. Este também é o comportamento padrão.

Para obter mais informações, consulte Uso de ferramentas com o Amazon Nova.

Comportamento da sequência de várias ferramentas

O Amazon Nova Sonic gerencia a execução de ferramentas de forma inteligente em cada ciclo de resposta. Quando você usa a opção tool, o modelo executa primeiro a ferramenta especificada e, em seguida, avalia se são necessárias ferramentas adicionais antes de gerar sua resposta final. Da mesma forma, com a opção any, o modelo primeiro seleciona e chama uma ferramenta dentre as opções disponíveis e, em seguida, decide se serão necessárias chamadas adicionais de ferramentas antes de continuar gerando sua resposta.

Em todos os casos, o modelo gerencia toda a sequência de execução de ferramentas em um único ciclo de geração de resposta, determinando quando informações suficientes foram coletadas para gerar uma resposta apropriada.

Considere os seguintes cenários de exemplo:

Knowledge base example

  • Com toolChoice: "knowledge_tool", o modelo sempre consultará primeiro a base de conhecimento especificada e, em seguida, possivelmente usará outras ferramentas antes de responder, se necessário.

  • Com toolChoice: "any" e várias bases de conhecimento disponíveis, o modelo selecionará a base de conhecimento mais relevante, a consultará e, em seguida, possivelmente consultará fontes adicionais, se necessário.

  • Com toolChoice: "auto", o modelo pode ignorar totalmente as pesquisas de conhecimento para perguntas que ele possa responder diretamente ou consultar várias bases de conhecimento para questões complexas.

Multi-functional assistant example

  • Um assistente virtual com ferramentas de previsão do tempo, calendário e conhecimento pode usar toolChoice: "auto" para responder de forma flexível a diversas consultas, chamando apenas as ferramentas necessárias.

  • O uso de toolChoice: "any" garante que pelo menos uma ferramenta seja sempre usada, mesmo para consultas às quais o modelo poderia possivelmente responder diretamente.

Para saber mais, consulte Escolha de ferramentas.