Alur kerja untuk perutean - AWS Bimbingan Preskriptif

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Alur kerja untuk perutean

Dalam pola perutean, pengklasifikasi atau agen router menggunakan LLM untuk menafsirkan maksud atau kategori kueri, lalu merutekan input ke tugas atau agen hilir khusus.

Alur kerja untuk routing.

Alur kerja perutean digunakan dalam skenario di mana agen harus mengklasifikasikan intent input, tipe tugas, atau domain dengan cepat, lalu mendelegasikan permintaan ke subagent, alat, atau alur kerja khusus. Ini sangat berguna dalam agen kapabilitas, seperti yang berfungsi sebagai asisten umum, pintu depan ke fungsi perusahaan, atau antarmuka AI yang menghadap pengguna yang menjangkau domain.

Routing sangat efektif ketika:

  • Triaging permintaan di berbagai tugas (misalnya, pencarian, ringkasan, pemesanan, perhitungan).

  • Input harus diproses sebelumnya atau dinormalisasi sebelum memasuki alur kerja yang lebih khusus.

  • Jenis input yang berbeda (misalnya, gambar vs. teks, kueri terstruktur vs. tidak terstruktur) memerlukan penanganan khusus.

  • Agen bertindak sebagai switchboard percakapan, mendelegasikan tugas ke agen khusus atau layanan mikro.

  • Alur kerja ini umum terjadi pada kopilot khusus domain, bot dukungan pelanggan, router layanan perusahaan, dan agen multimodal, di mana pengiriman cerdas menentukan kualitas dan efisiensi perilaku agen.

Kemampuan

  • LLM first-pass bertindak sebagai operator

  • Rute dapat memanggil alur kerja yang berbeda atau bahkan pola agen lainnya

  • Mendukung perluasan kemampuan modular

Kasus penggunaan umum

  • Asisten multidomain (“apakah ini pertanyaan hukum, medis, atau keuangan?”)

  • Pohon keputusan ditingkatkan dengan penalaran LLM

  • Pemilihan alat dinamis (misalnya, pencarian vs. pembuatan kode)