View a markdown version of this page

Überblick über LLM-erweiterte Kognition - AWS Prescriptive Guidance

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überblick über LLM-erweiterte Kognition

Im Kern kann das kognitive Modul eines Softwareagenten als ein in Erweiterungen verpacktes LLM betrachtet werden. Der Agent kann die folgenden Bausteine verwenden, um in seiner Umgebung effektiv zu argumentieren:

  • Eingabeaufforderung — Eingaben anhand von Kontext, Anweisungen, Beispielen und Speicher strukturieren

  • Abruf — Bereitstellung von up-to-date domänenspezifischem Wissen an die LLM-Eingabeaufforderung durch Vektorsuche oder semantisches Gedächtnis, z. B. durch Retrieval-Augmented Generation (RAG)

  • Verwendung von Tools — Ermöglicht es dem LLM, Funktionen aufzurufen oder aufzurufen, um Informationen abzurufen oder darauf zu reagieren APIs

  • Speicher — Einbindung eines dauerhaften Zustands oder eines sitzungsbasierten Zustands in die Argumentationsschleife, entweder mithilfe strukturierter Datenbanken oder kontextueller Zusammenfassungen

Diese Erweiterungen bestehen aus Workflows, die definieren, wie das LLM im Laufe der Zeit und aufgabenübergreifend genutzt wird, wodurch es von einer zustandslosen Engine in einen dynamischen Argumentationsmechanismus umgewandelt wird.

LLM-Erweiterung.