Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Agen yang diperkuat memori
Agen tambahan memori ditingkatkan dengan kemampuan untuk menyimpan, mengambil, dan bernalar menggunakan memori jangka pendek dan jangka panjang. Hal ini memungkinkan mereka untuk mempertahankan konteks di berbagai tugas, sesi, dan interaksi, yang menghasilkan respons yang lebih koheren, personal, dan strategis.
Tidak seperti agen tanpa kewarganegaraan, agen tambahan memori beradaptasi dengan mereferensikan data historis, belajar dari hasil sebelumnya, dan membuat keputusan yang sesuai dengan tujuan, preferensi, dan lingkungan pengguna.
Arsitektur
Agen tambahan memori ditunjukkan pada diagram berikut:
Deskripsi
-
Menerima masukan atau acara
-
Agen menerima permintaan pengguna atau peristiwa sistem. Ini mungkin teks, pemicu API, atau perubahan lingkungan.
-
-
Mengambil memori jangka pendek
-
Agen mengambil riwayat percakapan terbaru, konteks tugas, atau status sistem yang relevan dengan sesi atau alur kerja.
-
-
Mengambil memori jangka panjang
-
Agen menanyakan memori jangka panjang (misalnya, database vektor dan penyimpanan nilai kunci) untuk wawasan historis, seperti berikut ini:
-
Preferensi pengguna
-
Keputusan dan hasil masa lalu
-
Konsep, ringkasan, atau pengalaman yang dipelajari
-
-
-
Alasan melalui LLM
-
Konteks memori tertanam ke dalam prompt LLM, memungkinkan agen untuk bernalar berdasarkan input saat ini dan pengetahuan sebelumnya.
-
-
Menghasilkan output
-
Agen menghasilkan respons, rencana, atau tindakan sadar kontekstual yang dipersonalisasi sesuai dengan riwayat tugas dan input pengguna.
-
-
Memperbarui memori
-
Informasi baru, seperti sasaran yang diperbarui, sinyal keberhasilan dan kegagalan, dan respons terstruktur, disimpan untuk tugas-tugas masa depan.
-
Kemampuan
-
Kontinuitas sesi di seluruh percakapan atau acara
-
Kegigihan tujuan dari waktu ke waktu
-
Kesadaran kontekstual berdasarkan keadaan yang berkembang
-
Kemampuan beradaptasi diinformasikan oleh keberhasilan dan kegagalan sebelumnya
-
Personalisasi selaras dengan preferensi dan riwayat pengguna
Kasus penggunaan umum
-
Copilot percakapan yang mengingat preferensi pengguna
-
Agen pengkodean yang melacak perubahan basis kode
-
Agen alur kerja yang beradaptasi sesuai dengan riwayat tugas
-
Kembar digital yang berkembang dari pengetahuan sistem
-
Agen penelitian yang menghindari pengambilan berlebihan
Menerapkan agen tambahan memori
Gunakan alat-alat berikut dan Layanan AWS untuk agen tambahan memori:
Lapisan memori |
Layanan AWS |
Tujuan |
|---|---|---|
Jangka pendek |
Amazon DynamoDB, Redis, konteks Batuan Dasar Amazon |
Pengambilan cepat status interaksi terbaru |
Jangka panjang (terstruktur) |
Amazon Aurora, Amazon DynamoDB, Amazon Neptunus |
Fakta, hubungan, dan log |
Jangka panjang (semantik) |
OpenSearch, PostgreSQL, Biji Pinus |
Pengambilan berbasis penyematan (yaitu, RAG) |
Penyimpanan |
Amazon S3 |
Menyimpan transkrip, memori terstruktur, dan file |
Orkestrasi |
AWS Lambda atau AWS Step Functions |
Mengelola injeksi memori dan memperbarui siklus hidup |
Penalaran |
Amazon Bedrock |
Anthropic Claude atau Mistral dengan petunjuk memori |
Menerapkan dorongan yang disuntikkan memori
Untuk mengintegrasikan memori ke dalam penalaran agen, gunakan kombinasi keadaan terstruktur dan injeksi konteks yang ditambah pengambilan:
-
Sertakan status agen terbaru dan riwayat dialog terbaru sebagai input terstruktur saat membuat prompt untuk model bahasa, sehingga dapat beralasan dengan konteks penuh.
-
Gunakan retrieval-augmented generation (RAG) untuk menarik dokumen atau fakta yang relevan dari memori jangka panjang.
-
Meringkas rencana, konteks, dan interaksi sebelumnya untuk kompresi dan relevansi.
-
Suntikkan modul memori eksternal, seperti penyimpanan vektor atau log terstruktur, selama inferensi untuk memandu pengambilan keputusan.
Ringkasan
Agen yang diperkuat memori mempertahankan kontinuitas pikiran dengan belajar dari pengalaman dan mengingat konteks pengguna. Agen-agen ini melampaui kecerdasan reaktif dengan menggunakan kolaborasi jangka panjang, personalisasi, dan penalaran strategis. Dalam hal AI agen, memori memungkinkan agen untuk berperilaku lebih seperti rekan digital adaptif dan kurang seperti alat stateless.
