Aufrufen eines Tools - Amazon Nova

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Aufrufen eines Tools

Wenn Amazon Nova beschließt, ein Tool aufzurufen, wird ein Block zur Verwendung des Tools als Teil der Assistentennachricht zurückgegeben, und der Grund für den Stopp ist „tool_use“. Der Tool-Block enthält den Namen des Tools und seine Eingaben.

Anmerkung

Um die Genauigkeit von Toolaufrufen zu verbessern, verwenden Amazon Nova-Modelle standardmäßig chain-of-thought Argumentation für Tool-Aufrufe. Der Denkprozess wird Ihnen in der Assistentenmeldung zur Verfügung gestellt und in „<thinking>“ Tags enthalten sein. Es ist möglich, dass eine Antwort mehrere Tool-Aufrufe und Denkblöcke enthält, daher sollte Ihre Anwendung dies berücksichtigen.

Wenn die Toolauswahl auf any oder konfiguriert isttool, wird das chain-of-thought Verhalten dadurch außer Kraft gesetzt und die Antwort enthält nur die erforderlichen Tool-Aufrufe.

{
   "toolUse": 
    {
        "toolUseId": "tooluse_20Z9zl0BQWSXjFuLKdTJcA", 
        "name": "top_song", 
        "input": {
            "sign": "WZPZ"
        }
    }
}

Um das Tool tatsächlich aufzurufen, können der Tool-Name und die Argumente aus der Nachricht extrahiert werden, woraufhin die Anwendung es aufrufen kann.

Hier ist ein Beispiel dafür, wie Sie einen Tool-Aufruf verarbeiten können.

def get_top_song(sign):
    print(f"Getting the top song at {sign}")
    return ("Espresso", "Sabrina Carpenter")

stop_reason = response["stopReason"]

tool, song, artist = None, None, None
if stop_reason == "tool_use":
    thought_process = next(
        block["text"]
        for block in response["output"]["message"]["content"]
        if "text" in block
    )

    print(thought_process)

    tool = next(
        block["toolUse"]
        for block in response["output"]["message"]["content"]
        if "toolUse" in block
    )

    if tool["name"] == "top_song":
        song, artist = get_top_song(tool["input"]["sign"])

Beim Definieren und Aufrufen von Tools ist es wichtig, die Sicherheit im Auge zu behalten. LLMs wie Amazon Nova haben keinen Zugriff auf die Sitzungsdetails, daher sollten die Berechtigungen bei Bedarf überprüft werden, bevor ein Tool aufgerufen wird. Verlassen Sie sich auf die Benutzerdaten aus Ihrer Sitzung, anstatt den Prompt zu erweitern und Amazon Nova zu erlauben, ihn in den Tool-Aufruf einzufügen.