本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
工具呼叫系統
透過在請求中傳遞工具組態結構描述,Amazon Nova 模型可以使用工具呼叫。模型的提示詞將透過此工具組態得到加強,因此它是開始最佳化工具呼叫系統的重要位置。
請考慮下列重要原則:
-
工具定義應清晰、簡潔。它們應該很容易理解,意圖必須非常明顯。
-
使用關鍵差異化和邊界條件來定義何時應使用一個工具而非另一個工具。
-
請注意輸入引數類型。問:它們是否合理,是否預期以這種方式正常使用?
使用「工具選擇」來控制呼叫工具的時間
工具選擇參數可讓您自訂模型的工具呼叫行為。建議您使用此值來精細控制呼叫哪些工具以及何時呼叫。
例如,對於結構化輸出等使用案例,您可能希望在每次調用 Amazon Nova 時呼叫特定工具。您可以將輸出的結構描述定義為工具,然後將工具選擇設定為該工具的名稱。
{ "toolChoice": { "tool": { "name": "name_of_tool" } } }
對於許多代理式使用案例,您可能想要確保模型一律選取其中一個可用的工具。若要這樣做,您可以將工具選擇設定為 any,每次調用模型時呼叫且僅呼叫一個工具。
{ "toolChoice": { "any": {} } }
最後,對於是否呼叫工具高度依賴於對話上下文的使用案例,您可以將工具選擇設定為 auto。這是預設行為,會將工具選擇完全交由模型來判斷。
{ "toolChoice": { "auto": {} } }