도구 선택

도구 선택으로 tool을 사용하면 모델이 직접적으로 호출하는 특정 도구를 제어할 수 있습니다. 아래 예제에서는 응답의 형식을 일관된 방식으로 지정해야 하는 구조화된 출력 사용 사례를 통해 이를 보여줍니다.

tool_config = {
    "toolChoice": {
        "tool": { "name" : "extract_recipe"}
    },
    "tools": [
        {
            "toolSpec": {
                "name": "extract_recipe",
                "description": "Extract recipe for cooking instructions",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "name": {
                                "type": "string",
                                "description": "Name of the recipe"
                            },
                            "description": {
                                "type": "string",
                                "description": "Brief description of the dish"
                            },
                            "ingredients": {
                                "type": "array",
                                "items": {
                                    "type": "string",
                                    "description": "Name of ingredient"
                                }
                            }
                        },
                        "required": ["name", "description", "ingredients"]
                    }
                }
            }
        }
    ]
}

도구 선택으로 any를 사용하면 매번 최소 하나의 도구가 직접적으로 호출되도록 할 수 있습니다. 어떤 도구를 직접적으로 호출할지 결정하는 것은 모델에 달려 있지만, 항상 반환되는 도구가 있습니다. 아래 예제에서는 API 선택 엔드포인트 사용 사례에 도구 선택으로 any를 사용하는 것을 보여줍니다. 이는 모델이 특정 도구를 반환하도록 요구하는 것이 유용한 한 가지 예제입니다.

tool_config = {
    "toolChoice": {
        "any": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "get_all_products",
                "description": "API to retrieve multiple products with filtering and pagination options",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "sort_by": {
                                "type": "string",
                                "description": "Field to sort results by. One of: price, name, created_date, popularity",
                                "default": "created_date"
                            },
                            "sort_order": {
                                "type": "string",
                                "description": "Order of sorting (ascending or descending). One of: asc, desc",
                                "default": "desc"
                            },
                        },
                        "required": []
                    }
                }
            }
        },
        {
            "toolSpec": {
                "name": "get_products_by_id",
                "description": "API to retrieve retail products based on search criteria",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "product_id": {
                                "type": "string",
                                "description": "Unique identifier of the product"
                            },
                        },
                        "required": ["product_id"]
                    }
                }
            }
        }
    ]
}

도구 선택으로 auto를 사용하는 것은 도구 지원의 기본 기능으로, 모델이 도구를 직접적으로 호출할 시기와 직접적으로 호출할 도구의 수를 결정할 수 있습니다. 이는 요청에 도구 선택을 포함하지 않는 경우의 동작입니다.

다음 예제에서는 모델이 인터넷에서 최신 정보를 검색하거나 사용자에게 직접 응답하도록 허용하려는 챗봇 사용 사례를 강조합니다. 이 도구 선택은 유연성을 제공하며 추론은 모델에 맡깁니다.

tool_config = {
    "toolChoice": {
        "auto": {}
    },
    "tools": [
         {
            "toolSpec": {
                "name": "search",
                "description": "API that provides access to the internet",
                "inputSchema": {
                    "json": {
                        "type": "object",
                        "properties": {
                            "query": {
                                "type": "string",
                                "description": "Query to search by",
                            },
                        },
                        "required": ["query"]
                    }
                }
            }
        }
    ]
}