Sesuaikan strategi bawaan atau buat strategi Anda sendiri
Untuk kasus penggunaan lanjutan atau khusus domain, Anda dapat membuat strategi penggantian bawaan dengan untuk mendapatkan kontrol halus atas proses memori jangka panjang. Built-in dengan strategi penggantian memungkinkan Anda mengesampingkan perilaku default dari strategi bawaan dengan memberikan instruksi Anda sendiri dan memilih model dasar khusus untuk langkah ekstraksi dan konsolidasi.
Kapan menggunakan built-in dengan strategi overrides
Pilih strategi penggantian bawaan saat Anda perlu menyesuaikan logika memori dengan kebutuhan spesifik Anda. Kasus penggunaan umum meliputi:
-
Domain-specific ekstraksi: Membatasi strategi untuk mengekstrak hanya jenis informasi tertentu. Misalnya, menangkap preferensi makanan dan diet pengguna sambil mengabaikan preferensi mereka untuk pakaian.
-
Mengontrol granularitas: Menyesuaikan tingkat detail dalam memori yang diekstraksi. Misalnya, menginstruksikan strategi ringkasan untuk hanya menyimpan poin-poin kunci tingkat tinggi daripada narasi terperinci.
-
Pemilihan model: Menggunakan model dasar tertentu yang lebih cocok untuk domain atau tugas tertentu Anda, seperti model yang disesuaikan untuk teks keuangan atau hukum.
Cara menyesuaikan strategi
Untuk mengganti strategi bawaan dengan konfigurasi khusus, Anda menentukan konfigurasi saat Anda menggunakan CreateMemoryoperasi atau UpdateMemoryoperasi. Anda dapat mengganti yang berikut ini:
-
Instruksi dalam prompt sistem (namun, skema output tetap sama). Untuk membuat prompt kustom yang efektif, Anda harus terlebih dahulu memahami petunjuk default. Untuk informasi selengkapnya, lihat bagian prompt sistem untuk setiap strategi bawaan.
-
Model Amazon Bedrock yang dapat digunakan untuk memanggil prompt. Untuk informasi selengkapnya, lihat Menambahkan atau menghapus akses ke model foundation Amazon Bedrock. Untuk informasi selengkapnya tentang mendapatkan kapasitas Amazon Bedrock yang memadai, lihat kapasitas Amazon Bedrock untuk strategi penggantian bawaan.
Tabel berikut menunjukkan langkah-langkah yang dapat Anda timpa untuk setiap strategi memori:
| Strategi | Langkah-langkah yang dapat Anda timpa |
|---|---|
|
Semantik |
Konsolidasi Ekstraksi |
|
Ringkasan |
Konsolidasi |
|
Preferensi pengguna |
Konsolidasi Ekstraksi |
|
Episodik |
Refleksi Konsolidasi Ekstraksi |
catatan
Anda juga dapat mengganti dengan strategi yang dikelola sendiri. Untuk informasi lebih lanjut, lihat Self-managed strategi.
Cara menyesuaikan strategi
Misalnya, Anda dapat memodifikasi instruksi ekstraksi untuk strategi memori semantik untuk menambahkan instruksi baru saat menyesuaikannya.
Built-in instruksi strategi memori semantik
Berikut ini menunjukkan instruksi bawaan untuk strategi memori semantik:
You are a long-term memory extraction agent supporting a lifelong learning system. Your task is to identify and extract meaningful information about the users from a given list of messages. Analyze the conversation and extract structured information about the user according to the schema below. Only include details that are explicitly stated or can be logically inferred from the conversation. - Extract information ONLY from the user messages. You should use assistant messages only as supporting context. - If the conversation contains no relevant or noteworthy information, return an empty list. - Do NOT extract anything from prior conversation history, even if provided. Use it solely for context. - Do NOT incorporate external knowledge. - Avoid duplicate extractions. IMPORTANT: Maintain the original language of the user's conversation. If the user communicates in a specific language, extract and format the extracted information in that same language.
Anda dapat menambahkan aturan baru ke instruksi ini, seperti:
- Focus exclusively on extracting facts related to travel and booking preferences.
atau mengedit aturan yang ada seperti:
IMPORTANT: Always extract memories in English irrespective of the original language of the user's conversation.
Praktik terbaik untuk kustomisasi
-
Membangun instruksi yang ada: Kami sangat menyarankan Anda menggunakan instruksi strategi bawaan sebagai titik awal. Struktur dasar dan instruksi sangat penting untuk fungsionalitas memori. Anda harus menambahkan panduan khusus tugas Anda ke instruksi yang ada daripada menulis yang sama sekali baru dari awal.
-
Berikan instruksi yang jelas: Konten
appendToPromptmenggantikan instruksi default dalam prompt sistem. Pastikan instruksi Anda logis dan lengkap, karena instruksi yang kosong atau tidak terbentuk dengan baik dapat menyebabkan hasil yang tidak diinginkan.
Pertimbangan penting
Untuk menjaga keandalan pipa memori, harap patuhi pedoman berikut:
-
Jangan memodifikasi skema dalam petunjuk: Anda hanya boleh menambahkan atau memodifikasi instruksi yang memandu bagaimana memori diekstraksi atau dikonsolidasikan. Jangan mencoba mengubah definisi skema percakapan atau memori dalam prompt itu sendiri, karena ini dapat menyebabkan kegagalan yang tidak terduga.
-
Jangan ganti nama operasi konsolidasi: Saat menyesuaikan prompt konsolidasi, jangan ubah nama operasi (mis.,,).
AddMemoryUpdateMemoryMengubah nama-nama ini akan menyebabkan pipa memori jangka panjang gagal. -
Skema keluaran tidak dapat diedit: built-in dengan strategi penggantian tidak memungkinkan Anda mengubah skema keluaran akhir dari memori yang diekstraksi atau dikonsolidasikan. Skema keluaran yang akan ditambahkan ke prompt sistem untuk strategi penggantian bawaan akan sama dengan strategi bawaan. Untuk informasi tentang skema keluaran, lihat berikut ini:
Peran eksekusi
Saat menggunakan strategi penggantian bawaan, Anda juga diminta untuk menyediakan memoryExecutionRoleArn di API. CreateMemory Bedrock Amazon Bedrock AgentCore akan mengambil peran ini untuk memanggil model batuan dasar di AWS akun Anda untuk ekstraksi dan konsolidasi.
catatan
Saat menggunakan strategi penggantian bawaan, penggunaan LLM untuk ekstraksi dan konsolidasi akan dibebankan secara terpisah ke AWS akun Anda, dan biaya tambahan mungkin berlaku.
