View a markdown version of this page

Überblick über Kognition LLM-augmented - AWS Prescriptive Guidance

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überblick über Kognition LLM-augmented

Im Kern kann das kognitive Modul eines Softwareagenten als ein in Erweiterungen verpacktes LLM betrachtet werden. Der Agent kann die folgenden Bausteine verwenden, um in seiner Umgebung effektiv zu argumentieren:

  • Eingabeaufforderung — Eingaben anhand von Kontext, Anweisungen, Beispielen und Speicher strukturieren

  • Abruf — Bereitstellung von aktuellem oder domänenspezifischem Wissen für die LLM-Eingabeaufforderung durch Vektorsuche oder semantisches Gedächtnis, z. B. durch Retrieval-Augmented Generation (RAG)

  • Verwendung von Tools — Ermöglicht es dem LLM, APIs aufzurufen oder Funktionen aufzurufen, um Informationen abzurufen oder darauf zu reagieren

  • Speicher — Einbindung eines dauerhaften Zustands oder eines sitzungsbasierten Zustands in die Argumentationsschleife, entweder mithilfe strukturierter Datenbanken oder kontextueller Zusammenfassungen

Diese Erweiterungen bestehen aus Workflows, die definieren, wie das LLM im Laufe der Zeit und aufgabenübergreifend verwendet wird, wodurch es von einer zustandslosen Engine in einen dynamischen Argumentationsagenten umgewandelt wird.

LLM-Erweiterung.