Uso de herramientas (llamada a funciones) con Amazon Nova
Las herramientas son una forma de proporcionar funcionalidades externas a Amazon Nova, como una llamada a la API o una función de código. En esta sección, se explicará cómo puede definir e integrar las herramientas al trabajar con modelos de Amazon Nova.
El uso de herramientas implica tres pasos importantes:
-
Consulta de usuario: Usted define las herramientas que Amazon Nova puede utilizar proporcionando un esquema JSON que describa la funcionalidad y los requisitos de entrada de cada herramienta.
-
Selección de herramientas: Cuando un usuario envía un mensaje, Amazon Nova lo analiza para determinar si necesita una herramienta para generar una respuesta. Esto se conoce como elección de herramienta de
Auto
. Para obtener más información, consulte Selección de una herramienta. Si Amazon Nova identifica una herramienta adecuada, “llamará a la herramienta” y devolverá su nombre y los parámetros que se van a utilizar.Usted, como desarrollador, es responsable de ejecutar la herramienta en función de la solicitud del modelo. Esto significa que debe escribir el código que invoca la funcionalidad de la herramienta y procesa los parámetros de entrada proporcionados por el modelo.
nota
Como todas las respuestas de LLM, es posible que Amazon Nova genere una llamada de herramienta alucinada. Es responsabilidad suya, como desarrollador, validar que la herramienta existe, que las entradas están formateadas correctamente y que ya se han establecido los permisos adecuados.
-
Devolver resultados: Después de ejecutar la herramienta, debe enviar los resultados a Amazon Nova en un formato estructurado. Los formatos válidos incluyen JSON o una combinación de texto e imágenes. Esto permite que Amazon Nova incorpore los resultados de la herramienta en la respuesta final al usuario.
Si se produce algún error durante la ejecución de la herramienta, puede indicarlo en la respuesta de la herramienta a Amazon Nova, lo que permitirá que Amazon Nova ajuste su respuesta en consecuencia.
Analicemos un ejemplo sencillo de una herramienta de calculadora:
Amazon Nova permite el uso de herramientas tanto en la API de Invoke como en la de Converse; sin embargo, para obtener una gama completa de funciones, recomendamos utilizar la API de Converse y utilizaremos ejemplos con esta API en el futuro.