View a markdown version of this page

LLM-augmented Panoramica della cognizione - AWS Linee guida prescrittive

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

LLM-augmented Panoramica della cognizione

Fondamentalmente, il modulo cognitivo di un agente software può essere visto come un LLM avvolto da potenziamenti. L'agente può utilizzare i seguenti elementi costitutivi per ragionare in modo efficace all'interno del suo ambiente:

  • Richiesta: inquadra l'input utilizzando contesto, istruzioni, esempi e memoria

  • Recupero: fornitura di conoscenze aggiornate o specifiche del dominio al prompt LLM tramite la ricerca vettoriale o la memoria semantica, ad esempio tramite la generazione aumentata di recupero (RAG)

  • Utilizzo degli strumenti: consentire all'LLM di richiamare API o richiamare funzioni per recuperare o agire in base alle informazioni

  • Memoria: incorporazione di uno stato persistente o basato sulla sessione nel ciclo di ragionamento, utilizzando database strutturati o riepiloghi contestuali

Questi miglioramenti sono composti da flussi di lavoro che definiscono il modo in cui l'LLM viene utilizzato nel tempo e tra le attività, trasformandolo da un motore stateless a un agente di ragionamento dinamico.

Aumento del LLM.