Pola orkestrasi Saga - AWS Bimbingan Preskriptif
Orkestrasi acaraSistem agen berbasis peran (orkestrator)PengawasTakeaways

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pola orkestrasi Saga

Karena alur kerja didorong oleh LLMs menjadi semakin kompleks, mencakup rantai cepat, langkah-langkah pemrosesan data, pemanggilan alat, dan kolaborasi agen, kebutuhan akan orkestrasi cerdas menjadi penting. Daripada mengandalkan skrip yang digabungkan secara ketat atau alur eksekusi statis yang telah ditentukan sebelumnya, alur kerja ini dapat diimplementasikan sebagai pola orkestrasi yang digerakkan oleh peristiwa, memungkinkan sistem berbasis LLM untuk secara dinamis mengoordinasikan, memantau, dan mengadaptasi tugas multi-langkah di seluruh agen otonom.

Diagram berikut adalah contoh orkestrator:

Orhestrator.

Orkestrasi acara

Dalam sistem terdistribusi tradisional, orkestrasi peristiwa mengacu pada pola di mana koordinator pusat mengelola alur kerja yang kompleks dengan secara eksplisit mengarahkan aliran kontrol di berbagai layanan atau tugas. Tidak seperti koreografi acara (di mana setiap layanan bereaksi secara independen), orkestrasi memberikan logika terpusat, visibilitas, dan kontrol atas seluruh proses.

Ini biasanya diimplementasikan dengan menggunakan alat-alat berikut:

  • AWS Step Functions— Tentukan dan jalankan alur kerja stateful

  • AWS Lambda— Melaksanakan tugas-tugas diskrit dalam aliran yang diatur

  • Amazon SQS atau Amazon EventBridge - Memicu langkah atau respons asinkron

Diagram berikut adalah contoh orkestrasi saga:

Orkestrasi Saga.

AWS Step Functions Alur kerja mengelola proses pesanan pelanggan:

  1. Buat pesanan (AWS Lambda)

  2. Perbarui inventaris (AWS Lambda)

  3. Lakukan pembayaran (AWS Lambda)

Orkestrator mengoordinasikan setiap langkah dengan mengelola percobaan ulang, cabang paralel, batas waktu, dan kegagalan.

Sistem agen berbasis peran (orkestrator)

Dalam sistem agen, pola orkestrator mencerminkan orkestrasi peristiwa tetapi mendistribusikan logika di beberapa agen penalaran, masing-masing dengan peran atau spesialisasi yang ditentukan. Agen orkestrator pusat menafsirkan tugas keseluruhan, menguraikannya menjadi subtugas, dan mendelegasikannya ke agen pekerja, masing-masing dioptimalkan untuk domain tertentu (misalnya, penelitian, pengkodean, ringkasan, tinjauan).

Pengawas

  1. Seorang pengguna mengirimkan kueri “Buat ringkasan proyek dan rangkum 5 pesaing teratas.”

  2. Agen orkestrator melakukan hal berikut:

    • Menugaskan agen riset untuk menemukan data pesaing

    • Mengirim temuan mentah ke agen ringkasan

    • Memberikan hasil ke agen penulis singkat

    • Mengompilasi output akhir untuk pengguna

Setiap agen beroperasi secara independen, tetapi orkestrator mengoordinasikan tugas. Ini seperti fungsi Lambda yang menangani tugas alur kerja.

Diagram berikut contoh seorang supervisor:

Pengawas.

  1. Seorang pengguna mengirimkan tugas ke agen supervisor Amazon Bedrock.

  2. Agen supervisor mem-parsing permintaan menjadi subtugas untuk setiap kolaborator agen.

  3. Setiap subtugas ditugaskan ke agen kolaborator dengan prompt atau rantai alat khusus peran.

  4. Agen pekerja memanggil eksternal APIs atau alat melalui kelompok tindakan.

  5. Setiap agen pekerja mengembalikan output dalam format terstruktur.

  6. Ketika semua pekerja mengembalikan hasil mereka, supervisor mengevaluasi, mensintesis, dan mengembalikan respons akhir.

Struktur ini memungkinkan modularitas, kemampuan beradaptasi, dan introspeksi di seluruh alur kerja agen multistep yang kompleks.

Takeaways

Di mana orkestrasi peristiwa menggunakan kontrol terpusat (misalnya, AWS Step Functions) untuk mengarahkan eksekusi layanan, sistem agen berbasis peran menggunakan agen orkestrator bertenaga LLM untuk bernalar tentang tujuan, mendelegasikan subtugas ke agen pekerja, dan mensintesis hasil akhir.

Dalam kedua paradigma, orkestrator melakukan hal berikut:

  • Mempertahankan konteks dan alur eksekusi

  • Menangani percabangan, pengurutan, dan penanganan kesalahan

  • Menghasilkan hasil terpadu dari komponen terdistribusi

Orkestrasi agen, bagaimanapun, menambah penalaran, kemampuan beradaptasi, dan delegasi semantik. Ini membuatnya sangat cocok untuk tugas terbuka, ambigu, dan berkembang.