View a markdown version of this page

Panoramica della cognizione aumentata con LLM - AWS Linee guida prescrittive

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Panoramica della cognizione aumentata con LLM

Fondamentalmente, il modulo cognitivo di un agente software può essere visto come un LLM avvolto da potenziamenti. L'agente può utilizzare i seguenti elementi costitutivi per ragionare in modo efficace all'interno del suo ambiente:

  • Richiesta: inquadra l'input utilizzando contesto, istruzioni, esempi e memoria

  • Recupero: fornitura di conoscenze specifiche del dominio al prompt LLM tramite la ricerca vettoriale up-to-date o la memoria semantica, ad esempio tramite la generazione aumentata di recupero (RAG)

  • Utilizzo dello strumento: consentire all'LLM di richiamare o richiamare funzioni per recuperare o agire in base alle informazioni APIs

  • Memoria: incorporazione di uno stato persistente o basato sulla sessione nel ciclo di ragionamento, utilizzando database strutturati o riepiloghi contestuali

Questi miglioramenti sono composti da flussi di lavoro che definiscono il modo in cui l'LLM viene utilizzato nel tempo e tra le attività, trasformandolo da un motore stateless a un agente di ragionamento dinamico.

Aumento del LLM.