Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Ikhtisar LLM-augmented kognisi
Pada intinya, modul kognitif agen perangkat lunak dapat dilihat sebagai LLM yang dibungkus dengan augmentasi. Agen dapat menggunakan blok bangunan berikut untuk bernalar secara efektif dalam lingkungannya:
-
Meminta — Membingkai input menggunakan konteks, instruksi, contoh, dan memori
-
Pengambilan — Memberikan pengetahuan terkini atau spesifik domain ke prompt LLM melalui pencarian vektor atau memori semantik, misalnya, melalui retrieval-augmented generation (RAG)
-
Penggunaan alat - Mengaktifkan LLM untuk memanggil API atau memanggil fungsi untuk mengambil atau bertindak berdasarkan informasi
-
Memori — Menggabungkan keadaan persisten atau berbasis sesi ke dalam loop penalaran, baik dengan menggunakan database terstruktur atau ringkasan kontekstual
Augmentasi ini terdiri dari alur kerja yang menentukan bagaimana LLM digunakan dari waktu ke waktu dan di seluruh tugas, mengubahnya dari mesin stateless menjadi agen penalaran dinamis.
