Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Toolbasierte Agenten für Server
Toolbasierte Agenten für Server verbessern die Funktion von Agenten, die Funktionen aufrufen, indem sie die Ausführung von Tools an einen externen Server delegieren, der über eine spezielle Laufzeitumgebung für Tools, Skripts und kombinierte Agenten verfügt. Im Gegensatz zu Inline-Funktionsaufrufen, die in der Agentenschleife ausgewählt und aufgerufen werden, lagern serverbasierte Agenten die Logik und die Ausführungspipeline an andere Agenten oder Systeme aus. Dies bietet erweiterte Funktionen wie Multitool-Verkettung, isolierte Ausführung und spezielle Argumentation. Toolserver eignen sich ideal für komplexe, zustandsbehaftete oder ressourcenintensive Aktionen, bei denen die Tools selbst separate KI-Modelle, Geschäftsregeln oder Umgebungen beinhalten können.
Architektur
Im Folgenden finden Sie ein Muster für toolbasierte Agenten für Server:
Description
-
Empfängt eine Anfrage
-
Ein Benutzer oder ein System sendet eine Anfrage an die Agenten-Shell.
-
Der Agent interpretiert die Abfrage und bereitet ihren Versand an einen Toolserver vor.
-
-
Führt Toolserver-Prozesse aus
-
Der Agent sendet die Aufgabe zusammen mit strukturierten Parametern an einen Toolserver.
-
Der Tool-Server kann dann:
-
Führen Sie Skripts oder Logik in speziellen Rechensystemen aus ( AWS Lambda z. B. Container oder Amazon SageMaker)
-
Verwenden Sie einen eigenen Subagenten mit LLM-Argumentation, um Tools auszuwählen und auszuführen
-
Verwalten Sie Abhängigkeiten, Wiederholungsversuche oder mehrstufige Ausführungsabläufe
-
Gibt die Ergebnisse an den primären Agenten aus, wenn die Aufgabe abgeschlossen ist
-
-
-
Verwendet LLM-Argumentation bei der Toolausgabe
-
Der Agent ruft ein LLM auf und übergibt die ursprüngliche Abfrage und das Ergebnis des Toolservers als Teil der Eingabeaufforderung.
-
Das LLM synthetisiert eine Antwort, die die neu erfassten Informationen enthält.
-
-
Gibt eine Antwort zurück
-
Der Agent gibt eine Antwort in natürlicher Sprache oder in strukturierter Form an den Benutzer oder das anrufende System zurück.
-
(Optional) Die Ergebnisse können im Speicher oder in Auditprotokollen gespeichert werden.
-
Capabilities
-
Tools werden außerhalb der Ausführungsschleife des primären Agenten aufgerufen
-
Die Ausführung von Tools kann LLM-Aufrufe, Logikketten oder Subagenten beinhalten
-
Der Agent fungiert als Controller oder Dispatcher, nicht nur als Tool-Wrapper
-
Ermöglicht Zusammensetzbarkeit, Skalierbarkeit und Isolierung der Logik
Häufige Anwendungsfälle
-
Orchestrierung von Modellketten (z. B. durch Kombination von LLM, Vision und Code)
-
KI-gesteuerte Automatisierungspipelines
-
DevOps Assistenzagenten mit Script-Runnern
-
Agenten für komplexe Finanzberechnungen, Simulationen oder Optimierungen
-
Multimodale Tools (z. B. durch die Kombination von Audio, Dokumentation und Aktion)
Implementierungsleitfaden
Sie können dieses Muster wie folgt AWS-Services erstellen:
-
Amazon Bedrock (Agentenhost und LLM-Inferenz)
-
AWS Lambda, Amazon ECS oder SageMaker Amazon-Endpoints als Tool-Server-Runtime AWS Fargate
-
Amazon API Gateway oder AWS App Runner um den Tool-Server verfügbar zu machen APIs
-
Amazon EventBridge für entkoppeltes Messaging agent-to-tool
-
AWS Step Functions oder AWS AppFabric für die Erstellung von Multi-Agent-Logik auf dem Tool-Server
Zusammenfassung
Toolbasierte Agenten, die Server verwenden, sind hochgradig modular und skalierbar. Sie entkoppeln die Entscheidungslogik von der Ausführung, was es dem primären Agenten ermöglicht, schlank zu bleiben und gleichzeitig komplexe oder sensible Aktionen auf andere Systeme auszulagern. Dies ist wichtig für agentische KI auf Unternehmensebene, insbesondere in Umgebungen, in denen Steuerung, Beobachtbarkeit, Isolierung, dynamische Zusammensetzung oder eine beliebige Kombination davon erforderlich sind.
