Best practice per la scelta dello strumento

Mantieni semplice la struttura dello schema: se possibile, le chiavi di primo livello devono essere al massimo 3.

Crea nomi di parametri distinti: utilizza nomi chiari e semanticamente diversi tra parametri simili per evitare confusione (ovvero, non utilizzare sia “product_id” che “cart_item_id” se svolgono ruoli diversi).

Fornisci descrizioni dettagliate degli strumenti: descrivi chiaramente lo scopo di ogni strumento e quando deve essere utilizzato per aiutare il modello a selezionare quello appropriato.

Definisci con precisione gli schemi di input: specifica i tipi di parametri e includi le descrizioni per ogni parametro. Indica chiaramente quali parametri sono obbligatori e quali facoltativi.

Monitora la lunghezza del contesto: le prestazioni dello strumento possono peggiorare man mano che il contesto si avvicina a token più grandi (ovvero circa 50.000 token). Valuta la possibilità di suddividere le attività complesse in fasi più piccole quando lavori con contesti lunghi.

Implementa la gestione degli errori: preparati ai casi in cui l’esecuzione dello strumento ha esito negativo includendo comportamenti di fallback appropriati.

Esegui test approfonditi: verifica che i tuoi strumenti funzionino su una varietà di input e casi limite prima dell’implementazione.

Parametri di decodifica greedy: imposta il valore della temperatura su 0 per l’utilizzo dello strumento.

Quando si verificano errori di aderenza allo schema JSON, potresti dover semplificare la struttura dello schema o fornire istruzioni più chiare.

Tieni presente che il modello potrebbe omettere parametri opzionali che migliorerebbero i risultati (come i parametri “limite” nelle query).