Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Pola saga rantai yang cepat
Dengan menata ulang rantai prompt LLM sebagai kisah yang digerakkan oleh peristiwa, kami membuka model operasional baru: alur kerja menjadi terdistribusi, dapat dipulihkan, dan dikoordinasikan secara semantik di seluruh agen otonom. Setiap langkah prompt respons dibingkai ulang sebagai tugas atom, dipancarkan sebagai peristiwa, dikonsumsi oleh agen khusus, dan diperkaya dengan metadata kontekstual.
Diagram berikut adalah contoh rantai prompt LLM:
Koreografi Saga
Pola koreografi saga adalah pendekatan implementasi dalam sistem terdistribusi yang tidak memiliki koordinator pusat. Sebagai gantinya, setiap layanan atau komponen menerbitkan peristiwa yang memicu tindakan alur kerja berikutnya. Pola ini banyak digunakan dalam sistem terdistribusi untuk mengelola transaksi di berbagai layanan. Dalam sebuah kisah, sistem menjalankan serangkaian transaksi lokal yang terkoordinasi. Jika salah satu gagal, sistem memicu tindakan kompensasi untuk menjaga konsistensi.
Diagram berikut adalah contoh koreografi saga:
-
Persediaan cadangan
-
Otorisasi pembayaran
-
Buat pesanan pengiriman
Jika langkah 3 gagal, sistem akan meminta tindakan kompensasi (misalnya, membatalkan pembayaran atau merilis inventaris).
Pola ini sangat berharga dalam arsitektur yang digerakkan oleh peristiwa di mana layanan digabungkan secara longgar dan status harus diselesaikan secara konsisten dari waktu ke waktu, bahkan di hadapan kegagalan sebagian.
Pola rantai yang cepat
Prompt chaining menyerupai pola saga baik dalam struktur maupun tujuan. Ini mengeksekusi serangkaian langkah penalaran yang membangun secara berurutan sambil mempertahankan konteks dan memungkinkan untuk rollback dan revisi.
Koreografi agen
-
LLM menafsirkan kueri pengguna yang kompleks dan menghasilkan hipotesis
-
LLM menguraikan rencana untuk menyelesaikan tugas
-
LLM mengeksekusi subtugas (misalnya, dengan menggunakan panggilan alat atau mengambil pengetahuan)
-
LLM menyempurnakan output atau meninjau kembali langkah sebelumnya jika dianggap hasilnya tidak memuaskan
Jika hasil antara cacat, sistem dapat melakukan salah satu hal berikut:
-
Coba lagi langkah-langkahnya menggunakan pendekatan yang berbeda
-
Kembalikan ke prompt sebelumnya dan rencanakan ulang
-
Gunakan loop evaluator (misalnya, dari pola evaluator-optimizer) untuk mendeteksi dan memperbaiki kegagalan
Seperti pola saga, prompt chaining memungkinkan untuk kemajuan sebagian dan mekanisme rollback. Ini terjadi melalui penyempurnaan berulang dan koreksi yang diarahkan LLM daripada melalui kompensasi transaksi database.
Diagram berikut adalah contoh koreografi agen:
-
Pengguna mengirimkan kueri melalui SDK.
-
Agen Amazon Bedrock mengatur penalaran melalui hal-hal berikut:
-
Interpretasi (LLM)
-
Perencanaan (LLM)
-
Eksekusi melalui alat atau basis pengetahuan
-
Konstruksi respons
-
-
Jika alat gagal atau mengembalikan data yang tidak mencukupi, agen dapat merencanakan ulang atau menyusun ulang tugas secara dinamis.
-
Memori (misalnya, penyimpanan vektor jangka pendek) dapat mempertahankan statusnya di seluruh langkah
Takeaways
Di mana pola saga mengelola panggilan layanan terdistribusi dengan logika kompensasi, rantai cepat mengelola tugas penalaran dengan pengurutan reflektif dan perencanaan ulang adaptif. Kedua sistem memungkinkan kemajuan tambahan, poin keputusan terdesentralisasi, dan pemulihan kegagalan, dan melakukan semua ini melalui penalaran yang diinformasikan daripada kemunduran yang kaku.
Prompt chaining memperkenalkan penalaran transaksional, yang merupakan padanan kognitif dari saga. Artinya, setiap “pemikiran” dievaluasi kembali, direvisi, atau ditinggalkan sebagai bagian dari dialog yang diarahkan pada tujuan yang lebih luas.
