Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verwenden eines Tools, um eine Amazon-Bedrock-Modellantwort zu vervollständigen
Sie können die Amazon-Bedrock-API verwenden, um einem Modell Zugriff auf Tools zu gewähren, mit deren Hilfe es Antworten auf Nachrichten generieren kann, die Sie an das Modell senden. Möglicherweise verfügen Sie über eine Chat-Anwendung, mit der Benutzer ermitteln können, welcher Song bei einem Radiosender am beliebtesten ist. Um eine Anfrage nach dem beliebtesten Song zu beantworten, benötigt ein Modell ein Tool, das die Titelinformationen abfragen und zurückgeben kann.
Anmerkung
Die Verwendung von Tools mit Modellen wird auch als Funktionsaufruf bezeichnet.
In Amazon Bedrock wird das Tool nicht direkt vom Modell aufgerufen. Vielmehr stellen Sie beim Senden einer Nachricht an ein Modell auch eine Definition für ein oder mehrere Tools bereit, mit denen das Modell möglicherweise eine Antwort generieren kann. In diesem Beispiel würden Sie eine Definition für ein Tool angeben, das den beliebtesten Song für einen bestimmten Radiosender zurückgibt. Wenn das Modell feststellt, dass das Tool benötigt wird, um eine Antwort auf die Nachricht zu generieren, antwortet es mit einer Anforderung zum Aufrufen des Tools. Es enthält auch die Eingabeparameter (den erforderlichen Radiosender), die an das Tool übergeben werden sollen.
In Ihrem Code rufen Sie das Tool im Namen des Modells auf. Gehen Sie in diesem Szenario davon aus, dass es sich bei der Tool-Implementierung um eine API handelt. Das Tool könnte genauso gut eine Datenbank, eine Lambda-Funktion oder eine andere Software sein. Sie entscheiden, wie Sie das Tool implementieren möchten. Anschließend setzen Sie die Konversation mit dem Modell fort, indem Sie eine Nachricht mit dem Ergebnis des Tools bereitstellen. Schließlich generiert das Modell eine Antwort auf die ursprüngliche Nachricht, die die Tool-Ergebnisse enthält, die Sie an das Modell gesendet haben.
Um Tools mit einem Modell zu verwenden, können Sie die Converse-API (Converse oder ConverseStream) nutzen. Der Beispielcode in diesem Thema zeigt anhand der Converse-API, wie ein Tool verwendet wird, das den beliebtesten Song für einen Radiosender ermittelt. Allgemeine Informationen zum Aufrufen der Converse-API finden Sie unter Führen einer Konversation mit den Converse-API-Operationen.
Es ist möglich, Tools mit den grundlegenden Inferenzoperationen (InvokeModel oder InvokeModelWithResponseStream) zu verwenden. Informationen zu den Inferenzparametern, die Sie im Anforderungstext übergeben, finden Sie in den Inferenzparametern für das Modell, das Sie verwenden möchten. Wir empfehlen jedoch den Einsatz der Converse-API, da sie eine konsistente API bietet, die mit allen Amazon-Bedrock-Modellen funktioniert, die Nachrichten unterstützen.
Informationen zu Modellen, die das Aufrufen von Tools unterstützen, finden Sie unter Unterstützte Modelle und Modellfeatures.
