Práticas recomendadas da escolha de ferramentas - Amazon Nova

Práticas recomendadas da escolha de ferramentas

Ao implementar ferramentas com o Amazon Nova Sonic, recomendamos seguir estas práticas recomendadas para garantir uma performance ideal:

  • Mantenha a estrutura do esquema simples: limite as chaves de nível superior a três ou menos, quando possível.

  • Crie nomes de parâmetros distintos: use nomes claros e semanticamente diferentes entre parâmetros semelhantes para evitar confusão (ou seja, não use “product_id” nem “cart_item_id” se eles tiverem diferentes finalidades).

  • Forneça descrições detalhadas das ferramentas: descreva claramente a finalidade de cada ferramenta e quando ela deve ser usada para ajudar o modelo a selecionar a ferramenta apropriada.

  • Defina esquemas de entrada com precisão: especifique os tipos de parâmetros e inclua descrições para cada parâmetro. Indique claramente quais parâmetros são obrigatórios e quais são opcionais.

  • Monitore o tamanho do contexto: a performance da ferramenta pode degradar à medida que o contexto se aproxima de tokens maiores (ou seja, aproximadamente 50 mil tokens). Considere dividir tarefas complexas em etapas menores ao trabalhar com contextos longos.

  • Implemente o tratamento de erros: prepare-se para casos em que a execução da ferramenta falhe, incluindo comportamentos apropriados de fallback.

  • Teste minuciosamente: verifique se as ferramentas funcionam em uma variedade de entradas e casos de borda antes da implantação.

  • Parâmetros de decodificação Greedy: recomendamos o uso de configurações como (Temperature=1, TopP=1) para uso da ferramenta.

Recomendamos evitar os seguintes problemas comuns:

  • Ao encontrar falhas na adesão ao esquema JSON, talvez seja necessário simplificar a estrutura do esquema ou fornecer instruções mais claras.

  • Lembre-se de que o modelo pode omitir parâmetros opcionais que melhorariam os resultados (como parâmetros de “limite” nas consultas).

Seguindo essas diretrizes, você pode aproveitar todas as capacidades dos recursos de uso de ferramentas do modelo Amazon Nova Sonic para criar aplicações eficazes de IA conversacional que podem acessar fontes de dados externas e realizar ações complexas.