本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用工具完成 Amazon Bedrock 模型回應
您可以使用 Amazon Bedrock API 為模型提供工具的存取權,以協助其為您傳送至模型的訊息產生回應。例如,您可能有一個聊天應用程式,可以讓使用者知道廣播電台播放的熱門歌曲。為了回答熱門歌曲的請求,模型需要可以查詢並傳回歌曲資訊的工具。
注意
搭配模型使用的工具也稱為函數呼叫。
在 Amazon Bedrock 中,模型不會直接呼叫工具。相反地,當您傳送訊息至模型時,您也會提供一或多個工具的定義,這些工具可能協助模型產生回應。在此範例中,您會為傳回指定廣播電台最熱門歌曲的工具提供定義。如果模型判斷其需要工具來產生訊息的回應,則模型會回應以請求您該呼叫工具。此外還包含要傳遞給工具的輸入參數 (所需的廣播電台)。
在程式碼中,您可以代表模型呼叫工具。在此情境中,假設工具實作是 API。該工具可以輕鬆成為資料庫、Lambda 函數或其他軟體。您可以決定如何實作工具。然後,透過提供具有工具結果的訊息,繼續與模型對話。最後,模型會為原始訊息產生回應,其中包含您傳送至模型的工具結果。
若要搭配模型使用工具,您可以使用 Converse API (Converse 或 ConverseStream)。本主題中的範例程式碼使用 Converse API 示範如何使用工具取得廣播電台最熱門的歌曲。如需呼叫 Converse API 的詳細資訊,請參閱與 Converse API 操作進行對話。
您可以搭配基本推論操作 (InvokeModel 或 InvokeModelWithResponseStream) 使用工具。若要尋找您在請求內文中傳遞的推論參數,請參閱所要使用模型的推論參數。建議您使用 Converse API,因為它提供一致的 API,可用於支援工具使用的所有 Amazon Bedrock 模型。
如需支援工具呼叫的模型資訊,請參閱支援的模型和模型功能。