Scelta di uno strumento

L’utilizzo di tool come scelta dello strumento di controllare lo strumento specifico chiamato dal modello. L’esempio seguente evidenzia questo aspetto con un caso d’uso di output strutturato in cui la risposta deve essere formattata in modo coerente.

tool_config = {
    "toolChoice": {
        "tool": { "name" : "extract_recipe"}
    },
    "tools": [
        {
            "toolSpec": {
                "name": "extract_recipe",
                "description": "Extract recipe for cooking instructions",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "name": {
                                "type": "string",
                                "description": "Name of the recipe"
                            },
                            "description": {
                                "type": "string",
                                "description": "Brief description of the dish"
                            },
                            "ingredients": {
                                "type": "array",
                                "items": {
                                    "type": "string",
                                    "description": "Name of ingredient"
                                }
                            }
                        },
                        "required": ["name", "description", "ingredients"]
                    }
                }
            }
        }
    ]
}

L’utilizzo di any come scelta dello strumento consente di garantire che venga chiamato almeno uno strumento ogni volta. Sebbene la decisione su quale strumento chiamare sia lasciata al modello, verrà sempre restituito uno strumento. L’esempio seguente evidenzia la scelta dello strumento “any” per un caso d’uso di un endpoint di selezione delle API. Questo è un esempio di quando è utile richiedere al modello di restituire uno strumento specifico.

tool_config = {
    "toolChoice": {
        "any": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "get_all_products",
                "description": "API to retrieve multiple products with filtering and pagination options",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "sort_by": {
                                "type": "string",
                                "description": "Field to sort results by. One of: price, name, created_date, popularity",
                                "default": "created_date"
                            },
                            "sort_order": {
                                "type": "string",
                                "description": "Order of sorting (ascending or descending). One of: asc, desc",
                                "default": "desc"
                            },
                        },
                        "required": []
                    }
                }
            }
        },
        {
            "toolSpec": {
                "name": "get_products_by_id",
                "description": "API to retrieve retail products based on search criteria",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "product_id": {
                                "type": "string",
                                "description": "Unique identifier of the product"
                            },
                        },
                        "required": ["product_id"]
                    }
                }
            }
        }
    ]
}

L’utilizzo di auto come scelta dello strumento è la funzionalità predefinita del supporto degli strumenti e consente al modello di decidere quando chiamare uno strumento e quanti strumenti chiamare. Questo è il comportamento se non includi la scelta dello strumento nella richiesta.

L’esempio seguente evidenzia un caso d’uso di un chatbot in cui potresti voler consentire al modello di cercare su Internet informazioni recenti o di rispondere direttamente all’utente. Questa scelta dello strumento offre flessibilità e lascerà il ragionamento al modello.

tool_config = {
    "toolChoice": {
        "auto": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "search",
                "description": "API that provides access to the internet",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "query": {
                                "type": "string",
                                "description": "Query to search by",
                            },
                        },
                        "required": ["query"]
                    }
                }
            }
        }
    ]
}