Prácticas recomendadas sobre la selección de herramientas
Al implementar herramientas con Amazon Nova Sonic, recomendamos seguir estas prácticas recomendadas para garantizar un rendimiento óptimo:
-
Mantenga la estructura del esquema simple: Limite las claves de nivel superior a 3 o menos cuando sea posible.
-
Cree nombres de parámetros distintos: Utilice nombres claros y semánticamente diferentes entre parámetros similares para evitar confusiones (es decir, no utilice tanto “product_id” como “cart_item_id” si tienen diferentes propósitos).
-
Proporcione descripciones detalladas de las herramientas: Describa claramente el propósito de cada herramienta y cuándo debe usarse para ayudar al modelo a seleccionar la herramienta adecuada.
-
Defina los esquemas de entrada con precisión: Especifique los tipos de parámetros e incluya descripciones para cada parámetro. Indique claramente qué parámetros son obligatorios y cuáles son opcionales.
-
Supervise la longitud del contexto: El rendimiento de la herramienta puede degradarse a medida que el contexto se acerque a tokens más grandes (es decir, aproximadamente 50 000 tokens). Considere la posibilidad de dividir las tareas complejas en pasos más pequeños cuando trabaje con contextos largos.
-
Implemente la gestión de errores: Prepárese para los casos en los que la ejecución de la herramienta falle e incluya comportamientos alternativos adecuados.
-
Realice pruebas exhaustivas: Compruebe que sus herramientas funcionan con una variedad de entradas y casos extremos antes de implementarlas.
-
Parámetros de decodificación voraz: Recomendamos utilizar configuraciones como (Temperatura = 1, TopP = 1) para el uso de herramientas.
Se recomienda evitar los siguientes problemas comunes:
-
Cuando encuentre errores de adherencia al esquema JSON, es posible que necesite simplificar la estructura del esquema o proporcionar instrucciones más claras.
-
Tenga en cuenta que el modelo podría omitir parámetros opcionales que mejorarían los resultados (como los parámetros de “límite” en las consultas).
Si sigue estas directrices, podrá aprovechar todas las capacidades de las funciones de uso de herramientas del modelo Amazon Nova Sonic para crear potentes aplicaciones de IA conversacional que puedan acceder a fuentes de datos externas y realizar acciones complejas.