Bewährte Methoden für die Tool-Auswahl - Amazon Nova

Bewährte Methoden für die Tool-Auswahl

Bei der Implementierung von Tools mit Amazon Nova Sonic empfehlen wir, die folgenden bewährten Methoden zu befolgen, um eine optimale Leistung zu gewährleisten:

  • Halten Sie die Schemastruktur einfach: Beschränken Sie die Schlüssel der obersten Ebene nach Möglichkeit auf 3 oder weniger.

  • Erstellen Sie eindeutige Parameternamen: Verwenden Sie klare, semantisch unterschiedliche Namen zwischen ähnlichen Parametern, um Verwechslungen zu vermeiden (verwenden Sie also nicht sowohl „product_id“ als auch „cart_item_id“, wenn sie unterschiedlichen Zwecken dienen).

  • Geben Sie detaillierte Tool-Beschreibungen an: Beschreiben Sie klar und deutlich, wofür jedes Tool verwendet werden sollte, um dem Modell bei der Auswahl des geeigneten Tools zu helfen.

  • Definieren Sie Eingabeschemas genau: Geben Sie die Parametertypen an und fügen Sie Beschreibungen für jeden Parameter hinzu. Geben Sie deutlich an, welche Parameter erforderlich und welche optional sind.

  • Kontextlänge überwachen: Die Leistung des Tools kann sich verschlechtern, wenn sich der Kontext größeren Tokens nähert (d. h. etwa 50 000 Token). Erwägen Sie, komplexe Aufgaben in kleinere Schritte zu unterteilen, wenn Sie mit langen Kontexten arbeiten.

  • Implementieren Sie die Fehlerbehandlung: Bereiten Sie sich auf Fälle vor, in denen die Ausführung des Tools fehlschlägt, indem Sie geeignete Ausweichmethoden einbeziehen.

  • Gründlich testen: Stellen Sie vor der Implementierung sicher, dass Ihre Tools bei einer Vielzahl von Eingaben und Sonderfällen funktionieren.

  • Greedy-Dekodierungsparameter: Stellen Sie den Temperaturwert für die Verwendung von Tools auf 0 ein.

Wir empfehlen Ihnen, folgende häufig auftretende Probleme zu vermeiden:

  • Wenn Sie auf Fehler bei der Einhaltung des JSON-Schemas stoßen, müssen Sie möglicherweise Ihre Schemastruktur vereinfachen oder klarere Anweisungen geben.

  • Beachten Sie, dass das Modell optionale Parameter auslassen könnte, welche die Ergebnisse verbessern würden (z. B. „Limit“-Parameter in Abfragen).

Durch Befolgen dieser Richtlinien können Sie die gesamten Funktionen der Tool-Nutzungsfunktionen des Amazon-Nova-Sonic-Modells nutzen, um leistungsstarke dialogorientierte KI-Anwendungen zu erstellen, die auf externe Datenquellen zugreifen und komplexe Aktionen ausführen können.