Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menegakkan isolasi penyewa

Isolasi penyewa adalah konsep yang berlaku untuk semua pengaturan multi-penyewa. Ini berarti bahwa kebijakan dan strategi Anda memastikan bahwa satu penyewa tidak dapat mengakses sumber daya penyewa lainnya. Untuk agen multi-penyewa, Anda mungkin perlu memperkenalkan konstruksi dan mekanisme yang membantu menegakkan dan persyaratan isolasi penyewa agen.

Menerapkan isolasi penyewa seperti strategi lain yang menggunakan sistem multi-tenant tradisional. Umumnya, ketika Anda membangun arsitektur AaaS, identifikasi area mana pun di sistem Anda di mana permintaan atau tindakan dapat mengakses sumber daya untuk menentukan apakah permintaan melintasi batas penyewa. Misalnya, layanan mikro mungkin memiliki dependensi pada tabel Amazon DynamoDB khusus per penyewa. Ini mengharuskan Anda untuk memperkenalkan kebijakan yang memastikan bahwa satu tabel penyewa tidak dapat diakses oleh penyewa lain.

Dalam hal ini, pertimbangkan isolasi penyewa melalui lensa agen dan interaksinya dengan sumber daya per-penyewanya. Diagram berikut menunjukkan contoh konseptual tentang bagaimana agen menerapkan kebijakan isolasi penyewa untuk mengontrol akses ke sumber daya penyewa.

Di sisi kanan diagram ini, agen memiliki pengetahuan per penyewa yang disimpan dalam database vektor terpisah. Saat agen memproses permintaan, ia memeriksa konteks penyewa yang membuat permintaan. Berdasarkan hal ini, agen menerapkan kebijakan isolasi yang tepat untuk memastikan bahwa penyewa dibatasi mengakses data atau sumber daya di luar batas yang ditentukan.

Jika agen Anda menggunakan Model Context Protocol (MCP), itu juga dapat mengimplementasikan model isolasi penyewa Anda. Diagram berikut menunjukkan contoh bagaimana memperkenalkan MCP dan menerapkan kebijakan isolasi.

MCP adalah protokol standar yang digunakan agen untuk berintegrasi dengan alat, data, dan sumber daya apa pun. Dalam contoh ini, klien MCP dan server MCP berinteraksi dengan pengetahuan dan alat khusus penyewa yang ditunjukkan di sisi kanan diagram. Konteks penyewa mengalir dari klien ke server, dan server menggunakan konteks ini untuk memperoleh kredensil cakupan penyewa dari layanan (IAM). AWS Identity and Access Management Kredensil mengontrol akses ke sumber daya masing-masing penyewa, memastikan bahwa satu penyewa dapat mengakses sumber daya penyewa lain.

Karena agen menggabungkan multi-tenancy, mereka harus memperkenalkan mekanisme yang menerapkan kebijakan isolasi penyewa saat mereka memproses permintaan. Dalam beberapa kasus, IAM dapat membantu membatasi akses ke sumber daya penyewa. Dalam kasus lain, Anda mungkin perlu memperkenalkan alat atau kerangka kerja lain untuk menerapkan kebijakan isolasi penyewa.

Tetangga dan agen yang berisik

Dalam lingkungan AaaS multi-penyewa di mana beberapa penyewa berbagi agen, pikirkan tentang di mana dan bagaimana memperkenalkan kebijakan yang mencegah kondisi tetangga yang bising. Kebijakan dapat memperkenalkan pembatasan tujuan umum yang berlaku untuk semua konsumsi, atau Anda dapat memiliki kebijakan penyewa atau berbasis tingkat yang menerapkan pembatasan berdasarkan persona tertentu. Anda dapat menempatkan pembatasan konsumsi yang lebih besar pada penyewa tingkat dasar daripada yang Anda lakukan pada penyewa tingkat premium.

Gagasan pelambatan ini dapat diterapkan pada beberapa titik arsitektur. Diagram berikut menunjukkan contoh beberapa area yang mungkin untuk memperkenalkan kebijakan tetangga yang bising.

Dalam tinjauan kami sebelumnya tentang implementasi multi-agen, kami memeriksa berbagai sumber daya yang dapat digunakan agen Anda, menyoroti potensi sumber daya per penyewa dalam agen. Setiap titik kontak adalah area potensial untuk memperkenalkan kebijakan pembatasan, yang membantu memastikan bahwa penyewa tidak melebihi batas konsumsi sistem Anda atau kebijakan tingkat penyewa.

Tempat terbaik untuk memperkenalkan perlindungan tetangga yang bising adalah pada titik-titik dalam arsitektur di mana penyewa berbagi sumber daya. Komponen bersama atau gabungan ini, seperti komputasi, memori, dan model bahasa besar APIs, adalah yang paling rentan terhadap penurunan kinerja jika satu penyewa mengkonsumsi secara tidak proporsional.

Salah satu tempat alami untuk menerapkan throttling adalah pada titik masuk agen, kadang-kadang disebut “tepi luar.” Di sini, Anda dapat memperkenalkan batas global atau tenant-tier-based tarif sebelum agen mulai memproses permintaan. Throttling juga dapat diterapkan lebih dalam di jalur eksekusi, seperti ketika agen memanggil LLM, mengakses memori, atau memanggil alat bersama.

Kebijakan ini membantu Anda menegakkan penggunaan yang adil, menjaga ketahanan agen di bawah beban, dan mempertahankan pengalaman yang konsisten di seluruh penyewa. Bergantung pada tujuan Anda, Anda mungkin fokus pada perlindungan sistem umum (ketahanan) atau mengelola pengalaman penyewa secara terperinci (misalnya, dengan hak berbasis tingkatan).