Aufrufen eines Tools - Amazon Nova

Aufrufen eines Tools

Wenn Amazon Nova beschließt, ein Tool aufzurufen, wird ein Block zur Verwendung des Tools als Teil der Assistentennachricht zurückgegeben, und der Grund für den Stopp ist „tool_use“. Der Tool-Block enthält den Namen des Tools und seine Eingaben.

Anmerkung

Um die Genauigkeit von Tool-Aufrufen zu verbessern, verwenden Amazon-Nova-Modelle standardmäßig Gedankenkettenargumente beim Aufrufen von Tools. Der Denkprozess wird Ihnen in der Assistentenmeldung zur Verfügung gestellt und in „<thinking>“ Tags enthalten sein. Es ist möglich, dass eine Antwort mehrere Tool-Aufrufe und Denkblöcke enthält, daher sollte Ihre Anwendung dies berücksichtigen.

Wenn die Tool-Auswahl auf any oder tool eingestellt ist, wird das „Chain-of-Thought”-Verhalten außer Kraft gesetzt und die Antwort enthält nur die notwendigen Tool-Aufrufe.

{
   "toolUse": 
    {
        "toolUseId": "tooluse_20Z9zl0BQWSXjFuLKdTJcA", 
        "name": "top_song", 
        "input": {
            "sign": "WZPZ"
        }
    }
}

Um das Tool tatsächlich aufzurufen, können der Tool-Name und die Argumente aus der Nachricht extrahiert werden, woraufhin die Anwendung es aufrufen kann.

Hier ist ein Beispiel dafür, wie Sie einen Tool-Aufruf verarbeiten können.

def get_top_song(sign):
    print(f"Getting the top song at {sign}")
    return ("Espresso", "Sabrina Carpenter")

stop_reason = response["stopReason"]

tool, song, artist = None, None, None
if stop_reason == "tool_use":
    thought_process = next(
        block["text"]
        for block in response["output"]["message"]["content"]
        if "text" in block
    )

    print(thought_process)

    tool = next(
        block["toolUse"]
        for block in response["output"]["message"]["content"]
        if "toolUse" in block
    )

    if tool["name"] == "top_song":
        song, artist = get_top_song(tool["input"]["sign"])

Es ist wichtig, dass Sie beim Definieren und Aufrufen von Tools die Sicherheit berücksichtigen. LLMs wie Amazon Nova haben keinen Zugriff auf die Sitzungsdetails, daher sollten Berechtigungen bei Bedarf vor dem Aufruf eines Tools überprüft werden. Verlassen Sie sich auf die Benutzerdaten aus Ihrer Sitzung, anstatt den Prompt zu erweitern und Amazon Nova zu erlauben, ihn in den Tool-Aufruf einzufügen.