Agents basés sur des outils pour serveurs - AWS Conseils prescriptifs

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Agents basés sur des outils pour serveurs

Les agents basés sur des outils pour serveurs améliorent les agents qui appellent des fonctions en déléguant l'exécution des outils à un serveur externe doté d'un environnement d'exécution dédié aux outils, aux scripts et aux agents composites. Contrairement aux appels de fonctions en ligne que la boucle d'agents sélectionne et invoque, les agents basés sur le serveur externalisent la logique et le pipeline d'exécution à d'autres agents ou systèmes. Cela fournit des fonctionnalités avancées telles que le chaînage multioutils, l'exécution isolée et le raisonnement spécialisé. Les serveurs d'outils sont idéaux pour les actions complexes, dynamiques ou gourmandes en ressources lorsque les outils eux-mêmes peuvent impliquer des modèles d'IA, des règles métier ou des environnements distincts.

Architecture

Voici un modèle pour les agents basés sur des outils pour les serveurs :

Agents basés sur des outils pour serveurs.

Description

  1. Reçoit une requête

    • Un utilisateur ou un système envoie une demande au shell de l'agent.

    • L'agent interprète la requête et se prépare à l'envoyer à un serveur d'outils.

  2. Exécute les processus du serveur d'outils

    • L'agent envoie la tâche, ainsi que les paramètres structurés, à un serveur d'outils.

    • Le serveur d'outils peut alors :

      • Exécutez des scripts ou de la logique dans des systèmes informatiques dédiés (par exemple AWS Lambda, des conteneurs ou Amazon SageMaker)

      • Utiliser son propre sous-agent avec un raisonnement LLM pour sélectionner et exécuter des outils

      • Gérez les dépendances, les nouvelles tentatives ou les flux d'exécution en plusieurs étapes

      • Transmettre les résultats à l'agent principal lorsque la tâche est terminée

  3. Utilise le raisonnement LLM avec les résultats de l'outil

    • L'agent invoque un LLM, en transmettant la requête d'origine et le résultat du serveur d'outils dans le cadre de l'invite.

    • Le LLM synthétise une réponse qui intègre les informations nouvellement acquises.

  4. Renvoie une réponse

    • L'agent renvoie une réponse structurée ou en langage naturel à l'utilisateur ou au système d'appel.

    • (Facultatif) Les résultats peuvent être stockés dans la mémoire ou dans des journaux d'audit.

Fonctionnalités

  • Les outils sont invoqués en dehors de la boucle d'exécution de l'agent principal

  • L'exécution de l'outil peut impliquer des appels LLM, des chaînes logiques ou des sous-agents

  • L'agent agit en tant que contrôleur ou répartiteur, et pas simplement en tant qu'emballage d'outils

  • Permet la composabilité, l'évolutivité et l'isolation de la logique

Cas d’utilisation courants

  • Orchestration de chaînes de modèles (par exemple, en combinant le LLM, la vision et le code)

  • Pipelines d'automatisation pilotés par l'IA

  • DevOps agents assistants avec exécuteurs de scripts

  • Agents de calcul, de simulation ou d'optimisation financiers complexes

  • Outils multimodaux (par exemple, en combinant audio, documentation et action)

Directives d’implémentation

Vous pouvez créer ce modèle en utilisant ce qui suit Services AWS :

  • Amazon Bedrock (agent hôte et inférence LLM)

  • AWS Lambda, Amazon ECS ou Amazon SageMaker endpoints en tant qu'environnement d'exécution du serveur d'outils AWS Fargate

  • Amazon API Gateway ou AWS App Runner pour exposer le serveur d'outils APIs

  • Amazon EventBridge pour la messagerie découplée agent-to-tool

  • AWS Step Functions ou AWS AppFabric pour composer une logique multi-agents sur le serveur d'outils

Résumé

Les agents basés sur des outils qui utilisent des serveurs sont hautement modulaires et évolutifs. Ils dissocient la logique de décision de l'exécution, ce qui permet à l'agent principal de rester léger tout en déléguant des actions complexes ou sensibles à d'autres systèmes. Cela est important pour l'IA agentique de niveau entreprise, en particulier dans les environnements qui nécessitent une gouvernance, une observabilité, une isolation, une composition dynamique ou une combinaison des deux.