Controllare come vengono scelti gli strumenti - Amazon Nova

Controllare come vengono scelti gli strumenti

Amazon Nova Sonic supporta tre parametri di scelta degli strumenti per aiutarti a gestire l’esecuzione degli strumenti. Puoi controllare lo strumento utilizzato dal modello specificando il parametro toolChoice.

  • Tool: l’opzione tool assicura che lo strumento denominato specifico venga chiamato esattamente una volta all’inizio della generazione della risposta. Ad esempio, se specifichi uno strumento della knowledge base, il modello interrogherà tale knowledge base prima di rispondere, indipendentemente dal fatto che lo ritenga necessario.

  • Any: l’opzione any garantisce che almeno uno degli strumenti disponibili venga chiamato all’inizio della generazione della risposta, consentendo al modello di selezionare quello più appropriato. Questo risulta utile quando si dispone di più knowledge base o strumenti e vuoi assicurarti che il modello ne sfrutti almeno uno senza specificare quale.

  • Auto: con auto, il modello offre la massima flessibilità per determinare se sono necessari strumenti all’inizio della generazione della risposta e, se necessario, può chiamare più strumenti. Questo è anche il comportamento che segue di default.

Per ulteriori informazioni, consulta Tool use with Amazon Nova.

Comportamento delle sequenze multi-strumento

Amazon Nova Sonic gestisce l’esecuzione degli strumenti in modo intelligente all’interno di ogni ciclo di risposta. Quando utilizzi l’opzione tool, il modello eseguirà prima lo strumento specificato, poi valuterà se sono necessari strumenti aggiuntivi prima di generare la risposta finale. Analogamente, con l’opzione any, il modello seleziona e chiama innanzitutto uno strumento tra le opzioni disponibili, poi decide se sono necessarie ulteriori chiamate prima di procedere alla generazione della risposta.

In tutti i casi, il modello gestisce l’intera sequenza di esecuzione dello strumento all’interno di un singolo ciclo di generazione della risposta, determinando quando sono state raccolte informazioni sufficienti per generare una risposta appropriata.

Considera ad esempio gli scenari riportati di seguito:

Knowledge base example

  • Con toolChoice: "knowledge_tool", il modello interrogherà sempre prima la knowledge base specificata, poi utilizzerà eventualmente altri strumenti prima di rispondere, se necessario.

  • Con toolChoice: "any" e le knowledge base disponibili, il modello selezionerà la knowledge base più pertinente, la interrogherà e, se necessario, consulterà eventualmente fonti aggiuntive.

  • Con toolChoice: "auto", il modello può saltare completamente la ricerca sulle conoscenze per le domande a cui può rispondere direttamente, oppure interrogare più knowledge base per domande complesse.

Multi-functional assistant example

  • Un assistente virtuale con strumenti di meteo, calendario e conoscenze potrebbe utilizzare toolChoice: "auto" per rispondere in modo flessibile a diverse domande, utilizzando solo gli strumenti necessari.

  • L’utilizzo di toolChoice: "any" garantirebbe che venga sempre utilizzato almeno uno strumento, anche per le domande a cui il modello potrebbe potenzialmente rispondere in modo diretto.

Per ulteriori informazioni, consulta Tool Choice.