View a markdown version of this page

Vue d'ensemble de la cognition augmentée par le LLM - AWS Conseils prescriptifs

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Vue d'ensemble de la cognition augmentée par le LLM

À la base, le module cognitif d'un agent logiciel peut être considéré comme un LLM assorti d'augmentations. L'agent peut utiliser les éléments de base suivants pour raisonner efficacement dans son environnement :

  • Invitation — Cadrage de la saisie à l'aide du contexte, des instructions, des exemples et de la mémoire

  • Récupération — Fournir up-to-date ou fournir des connaissances spécifiques à un domaine à l'invite LLM par le biais de la recherche vectorielle ou de la mémoire sémantique, par exemple, par le biais de la génération augmentée par extraction (RAG)

  • Utilisation de l'outil — Permettre au LLM d'invoquer APIs ou d'appeler des fonctions pour récupérer ou agir sur des informations

  • Mémoire — Incorporation d'un état persistant ou d'un état basé sur une session dans la boucle de raisonnement, soit à l'aide de bases de données structurées, soit de résumés contextuels

Ces augmentations sont composées de flux de travail qui définissent la manière dont le LLM est utilisé au fil du temps et entre les tâches, le transformant d'un moteur apatride en un agent de raisonnement dynamique.

Augmentation du LLM.