View a markdown version of this page

Konfigurasikan agen sebaris saat runtime - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Konfigurasikan agen sebaris saat runtime

Anda dapat mengonfigurasi dan memanggil agen Amazon Bedrock inline secara dinamis saat runtime menggunakan InvokeInlineAgent API. Menggunakan agen inline memberi Anda fleksibilitas untuk menentukan kemampuan agen Anda seperti model dasar, instruksi, grup tindakan, pagar pembatas, dan basis pengetahuan pada saat yang sama Anda memanggil agen Anda. Anda tidak perlu menentukan kemampuan agen terlebih dahulu sebelum Anda dapat menggunakannya.

Berikut ini adalah beberapa kasus penggunaan di mana menggunakan agen sebaris dapat membantu dengan memberi Anda fleksibilitas untuk mengonfigurasi agen Anda pada waktu pemanggilan.

  • Lakukan eksperimen cepat dengan mencoba berbagai fitur agen dengan konfigurasi berbeda dan memperbarui alat secara dinamis yang tersedia untuk agen Anda tanpa membuat agen terpisah.

  • Memanggil agen secara dinamis untuk melakukan tugas tertentu tanpa membuat versi agen baru atau menyiapkan agen.

  • Jalankan kueri sederhana atau gunakan penerjemah kode untuk tugas-tugas sederhana dengan membuat dan memanggil agen saat runtime.

  • Buat beberapa agen dalam pengaturan kolaborasi multi-agen untuk bekerja bersama pada tugas atau percakapan.

    Untuk menggunakan kolaborasi multi-agen, Anda dapat membuat agen dalam kombinasi berikut menggunakan API agen sebaris.

    Jenis agen
    Pengawas Kolaborator
    Sebaris Sebaris
    Sebaris Tradisional

Model dan Wilayah yang didukung

Anda dapat menggunakan model dasar apa pun yang didukung oleh Amazon Bedrock Agents untuk mengonfigurasi agen inline Anda dan dapat memanggil agen inline Anda di salah satu Wilayah tempat Amazon Bedrock Agents didukung. Untuk informasi selengkapnya tentang model dan Wilayah yang didukung oleh Amazon Bedrock Agents, lihat yang berikut ini:

Dengan agen inline Anda dapat beralih antar model. Kami menyarankan Anda beralih di antara model yang termasuk dalam keluarga yang sama. Beralih di antara model yang termasuk dalam keluarga yang berbeda dapat mengakibatkan perilaku yang tidak konsisten dan dapat menyebabkan kegagalan.

Mengkonfigurasi dan memanggil agen inline saat ini tidak didukung di konsol Amazon Bedrock.

Pedoman untuk menggunakan templat prompt lanjutan untuk agen inline

  • Templat prompt dasar — Secara default, Amazon Bedrock akan menggunakan template prompt dasar default untuk agen inline Anda dan petunjuknya dapat diubah di latar belakang kapan saja. Ini mungkin membuat tanggapan tidak konsisten. Jika Anda ingin tanggapan yang konsisten terhadap kueri Anda, sesuaikan perilaku agen sebaris Anda dengan mengganti logika di template prompt dasar default dengan konfigurasi Anda sendiri. Untuk informasi selengkapnya, lihat Tem plate prompt lanjutan.

  • Enkripsi - Gunakan customer managed key untuk mengenkripsi detail sesi di rest/storage. Jika sesi dimulai dengan kunci yang dikelola pelanggan, itu akan diperlukan untuk semua permintaan mendatang yang dibuat untuk sesi yang sama. menggunakan kunci yang dikelola pelanggan yang berbeda untuk sesi yang sama akan menghasilkan pengecualian.

  • Berbagi sesi — Ke depan semua sesi adalah tingkat akun, bukan tingkat peran. Anda dapat mengisolasi sesi di tingkat agen dengan menentukan nilai unik untukagentName.

  • Status sesi sebaris — Atribut di dalam InlineSessionState tetap ada selama sesi. Gunakan atribut untuk memberikan konteks tambahan untuk model Anda dan untuk permintaan beberapa bidikan.