Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Contoh
Saat Anda meng-host agen pada jenis komputasi Instans, Amazon Bedrock AgentCore Runtime menjalankan agen Anda di instans terkelola Amazon EC2 yang disediakan dan dioperasikan di dalam AWS akun Anda sendiri — sehingga Anda mendapatkan manfaat pemilihan perangkat keras dan harga Amazon EC2 tanpa mengelola siklus hidup instans, sistem operasi, dan runtime patch, penskalaan, atau pencabutan. Penyedia kapasitas menentukan infrastruktur yang digunakan instans tersebut, dan AgentCore menangani penyediaan, tambalan, penskalaan, dan pembongkaran atas nama Anda. Karena instans berjalan di akun Anda, data Anda tetap berada di akun Anda, kontrol akun yang ada berlaku, dan Anda dapat menggunakan perjanjian harga EC2 seperti Paket Tabungan, Instans Cadangan, dan Reservasi On-Demand Kapasitas (ODCR). Dengan Instans, Anda mendapatkan komputasi persisten dan dapat menjalankan beberapa agen kolaborasi pada satu instans, sambil mempertahankan visibilitas dan kontrol atas infrastruktur yang mendasarinya.
Topik
Kapan menggunakan Instans
Pilih jenis kom putasi Instans saat beban kerja Anda membutuhkan kemampuan di luar apa yang disediakan model microVM tanpa server:
-
Sesi yang persisten dan berjalan lama — Sesi dapat berjalan hingga 14 hari, dibandingkan dengan maksimum 8 jam untuk microVM. Ini sesuai dengan otomatisasi yang berjalan lama, pekerjaan transformasi, dan agen yang berhenti dan melanjutkan dalam waktu yang lama.
-
Perangkat keras khusus — Pilih jenis instans GPU yang didukung untuk beban kerja intensif komputasi seperti rendering 3D, simulasi, atau inferensi model. AgentCore menyediakan driver GPU pada instance, sehingga gambar kontainer standar berfungsi tanpa bundling driver, dan beban kerja komputasi (CUDA) dan grafis didukung. Untuk keluarga yang didukung, lihat Menggunakan jenis instans GPU.
-
Multi-agent kolaborasi — Beberapa agen dapat berjalan pada instance yang sama, berbagi sistem file, dan berkoordinasi pada tugas yang sama.
-
Akun Anda, kontrol Anda — Instans berjalan di akun Anda, sehingga data Anda tetap berada di akun Anda dan Anda dapat menggunakan mekanisme biaya yang ada seperti Paket Tabungan dan Reservasi On-Demand Kapasitas (ODCR).
Jika beban kerja Anda ringan, API-driven interaksi yang selesai dengan cepat, jenis komputasi MicroVMS default biasanya lebih cocok. Untuk informasi selengkapnya, lihat Memband ingkan jenis komputasi.
Konsep inti
Hosting agen di Instans memperkenalkan beberapa sumber daya selain konsep inti AgentCore Runtime yang dijelaskan dalam MicroVMS.
Penyedia kapasitas
Penye dia kapasitas menentukan infrastruktur EC2 yang digunakan agen Anda: sistem operasi, jenis instans yang diizinkan, jaringan (VPC dan subnet), volume penyimpanan, dan peran IAM yang digunakan untuk menyediakan dan mengakses instans. Penyedia kapasitas adalah template yang dapat digunakan kembali — Anda dapat mengaitkannya dengan beberapa runtime agen, dan AgentCore menggunakannya untuk meluncurkan instance saat runtime tersebut dipanggil.
Karakteristik utama:
-
Penyedia kapasitas dibuat dalam
CREATINGstatus dan menjadiREADYsetelah konfigurasinya divalidasi. Jika validasi gagal, itu masukCREATE_FAILED. -
Setelah penyedia kapasitas dibuat, hanya deskripsinya yang dapat diedit. Untuk mengubah konfigurasi lain, duplikat penyedia kapasitas dan buat pembaruan Anda dalam aliran duplikat.
-
Anda dapat mencantumkan waktu proses (dan versi runtime) yang terkait dengan penyedia kapasitas, dan Anda harus memisahkannya sebelum penyedia kapasitas dapat dihapus.
-
Menghapus penyedia kapasitas menghentikan dan menghapus semua sesi terkait dan penyimpanan persistennya.
Runtime agen pada Instans
Saat Anda membuat runtime agen, Anda memilih jenis komputasinya. Memilih Instans mengaitkan runtime dengan penyedia kapasitas melalui capacityProviderConfiguration parameter. Runtime masih mendefinisikan agen apa yang dijalankan (kode atau artefak kontainer) dan bagaimana hal itu dikonfigurasi (protokol, otentikasi, titik akhir, versi); penyedia kapasitas mendefinisikan komputasi yang dijalankannya.
Anda tidak dapat mengubah tipe komputasi setelah runtime dibuat.
Sesi
S esi adalah instance EC2 terisolasi yang dibuat dari penyedia kapasitas runtime. Setiap sesi memiliki siklus hidup dan status persistennya sendiri, dan Anda mengidentifikasinya dengan runtimeSessionId yang Anda berikan saat pemanggilan. AgentCore membuat sesi pada pemanggilan pertama dengan ID sesi baru, dan sesi mempertahankan statusnya di seluruh pemberhentian.
Sesi berlangsung maksimal 14 hari. Ketika sesi mencapai masa pakai maksimum ini, AgentCore secara otomatis menghentikannya. Ini mengakhiri instance EC2 tetapi mempertahankan volume persisten sesi. Untuk melanjutkan pekerjaan setelah sesi dihentikan, panggil runtime lagi dengan yang samaruntimeSessionId. AgentCore menyediakan instance baru dan melampirkan kembali volume persisten, sehingga data Anda utuh. Karena instance baru dapat diluncurkan dari image mesin yang diperbarui, sesi yang dimulai ulang mungkin berjalan pada instance dengan patch terbaru. Saat Anda menghapus sesi, mer AgentCore ubah semuanya, termasuk volume persisten.
Untuk isolasi sesi dan model keamanan multi-penyewa, lihat Model keamanan dan izin untuk Inst ans Runtime.
Agen
Agen adalah beban kerja yang berjalan dalam sesi. Berbeda dengan model microVM, di mana satu runtime menghosting satu agen, sesi Instans tunggal dapat meng-host beberapa agen. Ketika dua runtime agen berbagi penyedia kapasitas yang sama, Anda dapat memanggilnya dengan yang sama runtimeSessionId untuk mendaratkan kedua agen pada instans EC2 yang sama. Di sana, mereka berbagi sistem file dan dapat berkolaborasi pada tugas yang sama.
Memahami instance terkelola
Instans EC2 yang mendukung sesi Anda adalah instans terkelola Amazon EC2 — menyediakan dan AgentCore mengoperasikannya di akun Anda atas nama Anda, sehingga Anda memiliki izin terbatas pada instans tersebut dibandingkan dengan instans EC2 standar. Anda dapat mengidentifikasi mereka dengan Operator bidang dalam DescribeInstances output EC2 dan dengan tag AgentCore penyedia kapasitas pada instans.
Anda tidak melakukan operasi siklus hidup EC2 standar pada instans ini secara langsung — misalnya, Anda tidak meluncurkan, menambal, atau menghentikannya sendiri. AgentCore mengelola siklus hidup mereka; untuk menghapusnya, hapus penyedia kapasitas terkait, yang menghentikan dan menghapus sesi dan penyimpanan persistennya. Instans terkelola disembunyikan dari tampilan konsol EC2 dan operasi daftar API secara default; Anda dapat mengubahnya dengan set elan visibilitas sumber daya terkelola. Mereka tetap beroperasi penuh dan dapat ditagih di akun Anda.
Bandingkan jenis komputasi
Tabel berikut membandingkan jenis kom putasi MicroVM dan Instans untuk membantu Anda memilih yang tepat untuk beban kerja Anda.
| Karakteristik | MicroVM | Contoh |
|---|---|---|
|
Paling cocok untuk |
Ringan, API-driven agen yang memulai dengan cepat, skala sesuai permintaan, dan selesai dalam hitungan jam |
Long-running, beban kerja stateful, atau kolaboratif yang membutuhkan GPU atau sesi multi-agen |
|
Model manajemen |
Terkel AWS ola sepenuhnya, tanpa server, skala sesuai permintaan |
AWS mengelola EC2 di akun Anda; AWS mengelola tambalan dan pembaruan, dengan sesi persisten |
|
Durasi sesi maksimum |
Hingga 8 jam |
Hingga 14 hari |
|
Sistem operasi |
Kontainer Linux ( |
Linux ( |
|
Jaringan |
|
VPC |
|
Modalitas agen |
API, CLI |
API, CLI |
|
Agen per sesi |
Satu runtime menghosting satu agen (1:1) |
Satu sesi dapat menampung beberapa agen (1: N) |
|
Artefak yang didukung |
Gambar kontainer dan sumber Amazon S3 |
Gambar kontainer dan sumber Amazon S3 |
|
Akses GPU |
Tidak didukung |
Pilih jenis instans GPU yang didukung; driver disediakan untuk Anda |
|
Harga |
Consumption-based, ditagih oleh AgentCore |
Instans EC2 berjalan di akun Anda; gunakan Paket Tabungan dan ODCR Anda |
|
Model dan kerangka kerja |
Setiap |
Setiap |
Gunakan jenis instans GPU
Untuk beban kerja intensif komputasi seperti inferensi model, rendering 3D, dan pemrosesan media, sertakan jenis instans GPU dalam jenis instans yang diizinkan dari penyedia kapasitas Anda. AgentCore menyediakan driver GPU pada instance, sehingga Anda tidak mengonfigurasi jalur perangkat, indeks GPU, atau versi driver, dan gambar wadah standar (misalnya, gambar CUDA) berfungsi tanpa bundling driver. Beban kerja komputasi (CUDA) dan grafis (seperti Vulkan, EGL, dan GLX) didukung. Ketika lebih dari satu agen berjalan pada instans yang sama, semua agen berbagi akses ke GPU-nya.
Keluarga instans GPU dan akselerator berikut didukung:
-
Keluarga GPU NVIDIA —
g4dn,g5g6,g6e,gr6,g6f,gr6f, dang7e. -
AWS keluarga akselerator —
inf2(didukung oleh AWS Inferentia2).
Jika Anda menyertakan tipe instance akselerator dari keluarga yang tidak didukung, CreateCapacityProvider gagal dengan ValidationException nama jenis instans dan mencantumkan keluarga yang didukung. Non-accelerator jenis instance tidak terpengaruh.
Aliran pemanggilan
Memanggil runtime agen yang didukung oleh penyedia kapasitas mengikuti titik InvokeAgentRuntime masuk yang sama dengan model microVM. AgentCore menyelesaikan penyedia kapasitas, memastikan instance dan agen berjalan untuk sesi Anda, dan memproksi permintaan ke agen:
-
Anda menelep
InvokeAgentRuntimeon dengan runtime ARN dan aruntimeSessionId. -
Jika tidak ada sesi untuk ID sesi tersebut, AgentCore sediakan instans EC2 dari penyedia kapasitas runtime di akun Anda dan luncurkan agen di dalamnya. Pemanggilan pertama untuk sesi membutuhkan waktu lebih lama karena menyertakan penyediaan instance.
-
Jika sesi sudah ada, gunakan AgentCore kembali instance yang sedang berjalan. Memanggil runtime kedua yang berbagi penyedia kapasitas yang sama dengan ID sesi yang sama meluncurkan agen tersebut bersama yang pertama pada instans yang sama.
-
AgentCore memproksi permintaan ke agen dan mengalirkan respons kembali kepada Anda. Setiap agen berjalan dengan kredentif IAM sendiri yang berasal dari peran eksekusi runtime.
Karena agen berjalan pada instans di akun Anda, instans EC2, antarmuka jaringannya, dan volume persisten apa pun terlihat di konsol EC2 akun Anda dan ditagih ke akun Anda. Ini adalah instans terkelola Amazon EC2 — instans AgentCore yang menyediakan dan beroperasi di akun Anda atas nama Anda. Anda dapat mengontrol apakah mereka muncul di tampilan konsol EC2 dan operasi daftar API dengan pengaturan visibilitas sumber daya terkelola.
Penyimpanan persisten di seluruh sesi
Penyedia kapasitas dapat menentukan satu atau lebih volume Amazon EBS. Saat Anda menyimpan penyedia kapasitas, AgentCore menyimpan konfigurasi volume dan membuat volume EBS pada peluncuran sesi pertama. Ketika runtime agen memasang volume melalui konfigurasi penyimpanannya, data volume bertahan dari sesi berhenti:
-
Pada pemanggilan pertama untuk sesi, buat AgentCore volume dan melampirkannya ke instance EC2.
-
Saat AgentCore menghentikan sesi, itu mengakhiri instance EC2 tetapi mempertahankan volume.
-
Pada pemanggilan berikutnya dengan hal yang sama
runtimeSessionId, AgentCore menyediakan instance baru dan melampirkan kembali volume yang ada, sehingga agen melihat data sebelumnya utuh.
Ini memungkinkan alur kerja agen stateful di mana file ruang kerja, cache, dan pos pemeriksaan tetap ada di seluruh sesi restart. Menghapus sesi mengurangkan sumber daya EC2 — instans, antarmuka jaringan, dan volume EBS — sehingga Anda berhenti mengeluarkan biaya untuk infrastruktur yang tidak lagi Anda butuhkan.
Peran IAM
Agen hosting di Instans melibatkan peran berikut, selain peran eksekusi runtime agen yang memberikan kode agen Anda izin runtime:
-
Profil instans — Peran IAM yang dilampirkan ke instans EC2. AgentCore menggunakannya untuk mengumpulkan log sistem dari instance; itu tidak memberikan izin ke kode agen Anda (peran eksekusi runtime agen melakukannya).
-
Peran infrastruktur — Peran IAM yang AgentCore mengasumsikan penyediaan dan mengelola instans EC2 di akun Anda atas nama Anda (meluncurkan, menandai, dan mengonfigurasi jaringan untuk instans dan antarmuka jaringannya).
Anda dapat membiarkan konsol membuat peran default untuk Anda, atau menyediakan peran yang ada. Karena peran infrastruktur memberikan kemampuan untuk mengelola komputasi di akun Anda, lingkupkan hingga hak istimewa yang dibutuhkan beban kerja Anda, dan gunakan kondisi IAM untuk membatasinya ke VPC, subnet, atau jenis instans tertentu jika sesuai. AgentCore
