Model orkestrasi: Dari berbasis aturan hingga asli AI - AWS Panduan Preskriptif
Orkestrasi berbasis aturan dengan AWS Step FunctionsOrkestrasi asli AI dengan Agen Bedrock AmazonBerbasis aturan atau AI-native: Kapan menggunakan yang mana?Orkestrasi yang digerakkan oleh peristiwaPerspektif strategis

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Model orkestrasi: Dari berbasis aturan hingga asli AI

Dalam sistem AI tanpa server yang digerakkan oleh peristiwa, orkestrasi adalah logika penghubung yang menentukan bagaimana peristiwa memicu dan membentuk perilaku sistem. Dalam AWS, orkestrasi dapat mengikuti dua model utama:

  • Orkestrasi berbasis aturan didefinisikan oleh pengembang menggunakan alur kerja dan mesin negara.

  • Orkestrasi asli AI didukung oleh agen dan model bahasa besar (LLMs) yang beralasan, merencanakan, dan bertindak berdasarkan maksud dan konteks.

Setiap model memainkan peran yang berbeda dalam membangun sistem yang fleksibel, reaktif, dan cerdas. Bersama-sama, mereka memungkinkan pengembang untuk beralih dari otomatisasi prosedural ke sistem otonom yang digerakkan oleh tujuan.

Orkestrasi berbasis aturan dengan AWS Step Functions

Step Functions menyediakan mesin alur kerja visual untuk mengatur layanan seperti, AWS Lambda Amazon, Amazon Bedrock, SageMaker Amazon DynamoDB, dan Amazon Simple Storage Service (Amazon S3). Logikanya deterministik karena langkah-langkah didefinisikan secara eksplisit, dan transisi berbasis kondisi.

Manfaat utama orkestrasi berbasis aturan dengan Step Functions meliputi:

  • Auditabilitas dan visibilitas yang kuat melalui konsol alur kerja visual

  • Penanganan kesalahan bawaan, percobaan ulang, dan paralelisme

  • Ideal untuk aliran kontrol linier atau bercabang dengan jalur yang terdefinisi dengan baik

Diagram berikut menunjukkan alur kerja contoh kasus penggunaan konsumsi dan pemrosesan dokumen.

Contoh orkestrasi berbasis aturan dari konsumsi dan pemrosesan dokumen.

Dalam contoh ini, firma hukum mengotomatiskan analisis kontrak yang diunggah dalam langkah-langkah berikut:

  1. Pemicu peristiwa - Dokumen legal diunggah ke bucket Amazon S3, yang memicu peristiwa EventBridge Amazon, yang merutekan ke alur kerja Step Functions.

  2. Workflow - Step Functions melakukan langkah-langkah berikut:

    1. Pemrosesan dokumen — Fungsi Lambda membersihkan dan melakukan pengenalan karakter optik awal (OCR) pada dokumen.

    2. Ekstraksi teks — Amazon Textract mengekstrak teks kunci dan data dari dokumen.

    3. Analisis — Amazon Comprehend menganalisis teks untuk mengklasifikasikan tingkat risiko dan sentimen.

    4. Ringkasan — Amazon Bedrock menghasilkan ringkasan singkat dari kontrak.

    5. Penyimpanan data — Hasil ditulis ke Amazon OpenSearch Service untuk pengindeksan.

  3. Pengambilan — Tim hukum dapat mencari, memfilter, dan memvisualisasikan analisis kontrak melalui dasbor.

Arsitektur ini memanfaatkan kemampuan integrasi AWS SDK Step Functions untuk berinteraksi langsung dengan masing-masing Layanan AWS dalam alur kerja. Pendekatan ini mengurangi kompleksitas dan menghilangkan kebutuhan untuk fungsi Lambda terpisah antara setiap langkah pemrosesan. Penulisan terakhir ke OpenSearch Layanan juga ditangani melalui integrasi SDK. Akibatnya, Step Functions dapat mengindeks hasil analisis dokumen, klasifikasi risiko, analisis sentimen, dan ringkasan yang dihasilkan AI langsung ke Layanan. OpenSearch Tim hukum dapat mengakses informasi melalui dasbor untuk mencari, memfilter, dan memvisualisasikan analisis kontrak.

Setiap tugas adalah status yang ditentukan dengan penanganan kesalahan bawaan. Tidak ada keputusan yang dibuat oleh AI, dan orkestrasi eksplisit.

Orkestrasi asli AI dengan Agen Bedrock Amazon

Ketika Step Functions mengelola bagaimana hal-hal terjadi, agen Amazon Bedrock memutuskan apa yang harus terjadi berdasarkan sasaran pengguna. Agen atau agen Amazon Bedrock yang dibangun di Amazon Bedrock AgentCore menggabungkan yang berikut ini:

  • LLM seperti Anthropic Claude atau Amazon Nova

  • Satu set integrasi alat seperti fungsi Lambda (atau klien Model Context Protocol (MCP) untuk menjalankan integrasi MCP)

  • Basis pengetahuan opsional untuk landasan kontekstual

  • Memori bawaan dan pelacakan tujuan

Agen menafsirkan input bahasa alami, beralasan tentang hal itu, dan secara mandiri memanggil alat untuk memenuhi maksud pengguna, membongkar logika orkestrasi ke model.

Manfaat utama orkestrasi asli AI dengan Agen Bedrock Amazon meliputi yang berikut:

  • Fleksibilitas semantik — Menafsirkan berbagai input bahasa alami.

  • Otonomi alat - Pilih alat yang tepat saat runtime.

  • Landasan kontekstual - Kutip konten basis pengetahuan secara akurat.

  • Pemeliharaan pengembang minimal - Tentukan alat, dan bukan alirannya.

Diagram berikut menunjukkan alur kerja contoh kasus penggunaan otomatisasi dukungan pelanggan dengan Amazon Bedrock Agents.

Alur kerja menggunakan orkestrasi AI melalui Amazon Bedrock Agents.

Dalam contoh ini, pengguna di situs web ritel mengetik pesan di chatbot dukungan. Alur kerja berikut terjadi:

  1. Tindakan pemicu peristiwa adalah sebagai berikut:

    1. Pengguna mengirim pesan: “Saya harus mengembalikan sepatu yang saya pesan minggu lalu. Bisakah kamu membantu?”

    2. Pesan diterima dan disalurkan EventBridge.

    3. EventBridge memicu agen Amazon Bedrock.

  2. Proses penalaran agen adalah sebagai berikut:

    1. Ekstraksi maksud — Agen mengidentifikasi maksud sebagai “order pengembalian”.

    2. Pengambilan data — Agen menanyakan sistem CRM dengan menggunakan fungsi LambdaGetOrderHistory.

    3. Pemeriksaan kelayakan — Agen memanggil fungsi ProcessReturn Lambda untuk memverifikasi kelayakan pengembalian.

    4. Generasi respons — Agen merumuskan respons yang tepat.

  3. Tindakan komunikasi pelanggan terjadi ketika agen merespons “Pengembalian Anda sedang diproses. Harapkan email konfirmasi segera.”

Seluruh alur kerja menunjukkan bagaimana Amazon Bedrock Agents mengatur logika bisnis yang kompleks melalui grup tindakan yang ditentukan. Dengan menghubungkan niat pelanggan dengan sistem dan proses backend, ini memberikan pengalaman layanan pelanggan yang otomatis namun sesuai kontekstual.

Amazon Bedrock AgentCore memperluas ekosistem Amazon Bedrock di luar agen individu untuk menyediakan runtime lengkap dan arsitektur memori untuk sistem AI otonom yang digerakkan oleh peristiwa.

Amazon Bedrock Agents fokus pada mengatur penalaran dan urutan tindakan untuk satu tugas atau domain. AgentCore menyediakan infrastruktur yang mendasari untuk menyusun, mengoordinasikan, dan mempertahankan alur kerja multi-agen di seluruh lingkungan tanpa server terdistribusi.

Diagram berikut menunjukkan alur kerja contoh kasus penggunaan otomatisasi dukungan pelanggan dengan AgentCore.

Alur kerja otomatisasi dukungan pelanggan menggunakan EventBridge, AgentCore, dan Lambda.

Contoh ini mengikuti tindakan yang sama seperti contoh Agen Bedrock Amazon sebelumnya: Seorang pengguna di situs web ritel mengetik pesan di chatbot dukungan. Alur kerja berikut terjadi:

  1. Pengguna mengirim pesan: “Saya harus mengembalikan sepatu yang saya pesan minggu lalu. Bisakah kamu membantu?”

  2. Pesan diterima dan disalurkan EventBridge.

  3. EventBridge memicu titik akhir AgentCore Runtime.

AgentCore memperkenalkan tiga kemampuan utama yang melengkapi model orkestrasi yang ada:

  • AgentCore Runtime - Lingkungan eksekusi terkelola untuk menjalankan logika agen kustom di dalamnya AWS. Ini terintegrasi secara native dengan AWS Lambda Amazon ECS untuk menskalakan perilaku agen sesuai permintaan, menghilangkan kebutuhan untuk mengelola wadah atau infrastruktur fungsi secara manual.

  • AgentCore Memori — Menyediakan penyimpanan terstruktur yang persisten untuk konteks, status, dan riwayat tugas. Ini memungkinkan agen untuk mempertahankan kontinuitas di seluruh pemanggilan dan alur kerja, mendukung mode memori fana dan jangka panjang. Data memori dapat disinkronkan dengan DynamoDB atau Amazon Simple Storage Service (Amazon S3) Simple Storage Service (Amazon S3) untuk observabilitas dan kepatuhan.

  • AgentCore Gateway — Antarmuka terkelola untuk menjalankan Layanan AWS dan eksternal dengan aman APIs melalui Model Context Protocol (MCP). Konektor ini memungkinkan agen untuk berinteraksi langsung dengan data perusahaan, alat, dan aplikasi, memungkinkan orkestrasi yang lebih kaya tanpa kode integrasi khusus.

Bersama-sama, komponen-komponen ini memungkinkan untuk membangun sistem multi-agen adaptif yang beroperasi di seluruh arsitektur tanpa server yang digerakkan oleh peristiwa. Misalnya, AgentCore Runtime dapat meng-host beberapa agen khusus yang berkoordinasi melalui EventBridge atau Step Functions, menggunakan AgentCore Memory untuk berbagi konteks dan memastikan hasil yang deterministik dan dapat diaudit.

Dengan menghubungkan maksud pelanggan dengan sistem dan proses backend, AgentCore memberikan pengalaman layanan pelanggan yang otomatis namun sesuai kontekstual.

Orkestrasi tidak di-hardcode. LLM menentukan alur kerja secara dinamis, membuat sistem lebih tahan terhadap variasi dan ambiguitas dalam input.

Berbasis aturan atau AI-native: Kapan menggunakan yang mana?

AWS Step Functions dan Amazon Bedrock Agents masing-masing unggul dalam skenario orkestrasi yang berbeda. Sebagai praktik terbaik, gunakan Step Functions untuk proses terkontrol dan Amazon Bedrock Agents untuk interaksi bahasa alami dan pemenuhan tujuan yang fleksibel. Tabel berikut membandingkan layanan ini di berbagai jenis kasus penggunaan.

Gunakan jenis kasus

Step Functions (Berbasis Aturan)

Agen Batuan Dasar Amazon (asli AI)

Alur kerja deterministik

Ideal

Tidak dibutuhkan.

Masukan pengguna tidak terstruktur

Kaku

Menafsirkan dan beradaptasi.

Aturan bisnis yang kompleks

Model dengan menggunakan kondisi

Dapat menyimpulkan dengan menggunakan penalaran semantik.

Membutuhkan jejak audit berbutir halus

Jejak status penuh

Jejak terbatas, tergantung pada log agen. Namun, alat seperti bobot, bias, dan pencatatan pemanggilan model dapat mengurangi batasan ini.

Otomatisasi sensitif latensi

Koordinasi waktu nyata

Real-time, meskipun sedikit lebih tinggi karena pemrosesan LLM.

Pengalaman pengguna yang diarahkan pada tujuan

Membutuhkan desain eksplisit

Agen dapat menyimpulkan tujuan dan menyusun aliran.

Orkestrasi yang digerakkan oleh peristiwa

Baik menggunakan orkestrasi berbasis aturan atau asli AI, peristiwa adalah mekanisme yang mengaktifkan kecerdasan dalam sistem tanpa server. Dalam kedua model orkestrasi, urutan berikut terjadi:

  1. Sebuah peristiwa dipancarkan melalui. EventBridge Contoh peristiwa adalah input pengguna, unggahan dokumen, dan transaksi.

  2. Peristiwa itu memicu orkestrator yang sesuai:

    • Step Functions jika logikanya deterministik

    • AWS Lambda atau tugas Amazon ECS untuk runtime AWS asli yang berlangganan untuk EventBridge desain koreografi

    • Amazon Bedrock Agents jika logikanya dinamis atau percakapan

  3. AgentCore agen dapat memancarkan dan berlangganan EventBridge acara secara native dengan menggunakan SDKAgentCore . Dengan pendekatan ini, agen berpartisipasi langsung dalam alur kerja tanpa server sambil mempertahankan konteks jangka panjang melalui Memori. AgentCore Integrasi ini membentuk lapisan komunikasi ganda:

    • EventBridge menyediakan perutean peristiwa deterministik dan dapat diaudit.

    • AgentCore Memory plus Agent2Agent Protocol (A2A) menyediakan berbagi status semantik dan penemuan kemampuan.

  4. Setiap orkestrator mengoordinasikan layanan AI dan memancarkan peristiwa lebih lanjut seperti penyelesaian, kesalahan, dan pemicu hilir.

Model reaktif ini memastikan skalabilitas, ketahanan, dan desain modular, memungkinkan bagian-bagian sistem berkembang secara independen.

Perspektif strategis

EDA mendukung orkestrasi berbasis aturan dan model orkestrasi asli AI, dan memungkinkan kedua model untuk hidup berdampingan. Step Functions menyediakan otomatisasi yang andal dan berulang, dan Amazon Bedrock Agents memperkenalkan kecerdasan dinamis dan sadar konteks.

Bersama-sama, mereka memberi organisasi kemampuan untuk melakukan hal berikut:

  • Otomatiskan proses berulang-ulang dan bervolume tinggi

  • Menawarkan asisten pengguna yang cerdas dan adaptif

  • Skala AI tanpa hambatan atau kekakuan arsitektur

Orkestrasi tidak lagi hanya tentang aturan, ini tentang interpretasi niat, pemilihan alat, dan eksekusi otonom. Tanpa server pada AWS kombinasi AWS Step Functions untuk alur kerja terstruktur dan Agen Bedrock Amazon untuk orkestrasi semantik. Kerangka kerja terpadu ini memungkinkan pembangunan generasi berikutnya dari sistem AI agentik tanpa server.