Agen berbasis alat untuk memanggil fungsi - AWS Bimbingan Preskriptif
ArsitekturDeskripsiKemampuanKasus penggunaan umumPanduan implementasiRingkasan

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Agen berbasis alat untuk memanggil fungsi

Agen berbasis alat memperluas kemampuan agen penalaran dengan menggunakan fungsi eksternal atau APIs untuk menyelesaikan tugas yang melampaui penalaran bahasa saja. Pola ini menggunakan LLM untuk memutuskan alat mana yang akan digunakan dan kemudian menghasilkan argumen panggilan dan menggabungkan output alat ke dalam loop penalarannya.

Pola ini memungkinkan agen untuk bertindak daripada hanya memberikan tanggapan. Antarmuka alat mewakili kemampuan yang dapat dipanggil, mulai dari perhitungan aritmatika dan pencarian database hingga layanan eksternal dan cloud. APIs

Arsitektur

Agen berbasis alat untuk memanggil fungsi ditunjukkan dalam diagram berikut:

Agen berbasis alat untuk memanggil fungsi.

Deskripsi

  1. Menerima kueri

    • Agen menerima kueri atau tugas bahasa alami dari pengguna atau sistem panggilan.

  2. Telusuri alat

    • Agen menggunakan metadata internal atau registri alat untuk mencari alat, skema, dan kemampuan yang relevan yang tersedia.

  3. Memilih dan memanggil alat

    • LLM menerima kueri dan metadata alat (misalnya, nama fungsi, jenis input, dan deskripsi) dalam prompt nya.

    • Ia memilih alat yang paling relevan, membangun argumen masukan, dan mengembalikan panggilan fungsi terstruktur.

  4. Menjalankan alat yang dipilih

    • Shell agen atau tool runner mengeksekusi fungsi yang dipilih dan mengembalikan hasilnya (misalnya, output API, nilai database, atau komputasi).

  5. Mengembalikan respon

    • LLM meneruskan hasil ke agen, baik secara langsung atau sebagai bagian dari prompt yang diperbarui. Kemudian mengembalikan hasil bahasa alami.

Kemampuan

  • Pemilihan alat dinamis berdasarkan konteks tugas

  • Permintaan berbasis skema (OpenAPI, skema JSON, antarmuka fungsi) AWS

  • Interpretasi hasil dan rantai output ke dalam penalaran

  • Operasi tanpa kewarganegaraan atau sadar sesi

Kasus penggunaan umum

  • Asisten virtual dengan akses data eksternal

  • Kalkulator dan estimator keuangan

  • Pekerja pengetahuan berbasis API

  • LLMs yang memanggil AWS Lambda, SageMaker titik akhir Amazon, dan layanan SaaS

Panduan implementasi

Gunakan yang berikut ini untuk membuat agen berbasis alat untuk memanggil fungsi:

  • Amazon Bedrock dengan dukungan pemanggilan fungsi (Anthropic Claude)

  • AWS Lambda sebagai backend eksekusi alat

  • Amazon API Gateway atau AWS Step Functions untuk orkestrasi alat

  • Amazon DynamoDB atau Amazon Relational Database Service (Amazon RDS) untuk metadata alat sadar konteks

  • EventBridge Saluran pipa Amazon atau peta AWS Step Functions yang menyatakan untuk merutekan output

Ringkasan

Agen pemanggil fungsi berbasis alat mewakili pergeseran dari pemahaman bahasa ke melakukan tindakan. Agen-agen ini menggunakan alat yang dinamis dan sadar konteks sambil mempertahankan penalaran LLM, mengubah asisten pasif menjadi sistem yang menyelesaikan tugas, mengakses layanan, dan mengintegrasikan operasi bisnis. Pola ini merupakan komponen penting dari AI agen dalam pengaturan perusahaan, terutama bila dikombinasikan dengan skema deklaratif, kerangka kerja otorisasi, dan sistem multi-agen.