View a markdown version of this page

Lapisan 3: Keamanan dan tata kelola untuk platform AI generatif AWS - AWS Panduan Preskriptif
Disiplin intiKontrol yang direkomendasikanMatriks pelingkupanRekomendasi implementasi

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Lapisan 3: Keamanan dan tata kelola untuk platform AI generatif AWS

Kerangka kerja keamanan dan tata kelola yang kuat sangat penting untuk meningkatkan adopsi AI generatif di seluruh perusahaan. Kami merekomendasikan pendekatan platform-sentris. Pendekatan ini memastikan bahwa semua aplikasi bertenaga AI generatif, terlepas dari tim mana yang membangunnya, mendapat manfaat dari serangkaian keamanan default dan pagar pembatas AI yang bertanggung jawab.

Disiplin keamanan inti

OWASP top 10 untuk aplikasi LLM menjelaskan pertimbangan keamanan tambahan untuk beban kerja AI generatif. Namun, banyak disiplin keamanan tradisional tetap penting. Pertimbangan keamanan untuk beban kerja AI generatif meliputi:

  • Tata kelola dan kepatuhan - Buat kebijakan, prosedur, dan pelaporan yang diperlukan untuk memberdayakan bisnis sambil meminimalkan risiko. Untuk aplikasi AI generatif, ini mencakup pedoman untuk pemilihan model, penggunaan data, dan validasi keluaran.

  • Hukum dan privasi — Memenuhi persyaratan peraturan, hukum, dan privasi khusus untuk menggunakan atau membuat solusi AI generatif. Organizations harus mempertimbangkan dengan cermat undang-undang perlindungan data, hak kekayaan intelektual, dan peraturan khusus industri saat menerapkan solusi AI generatif.

  • Manajemen risiko — Identifikasi potensi ancaman terhadap solusi AI generatif dan mitigasi yang direkomendasikan. Ini termasuk mengatasi risiko seperti keracunan data, serangan injeksi cepat, atau bias yang tidak diinginkan dalam output model.

  • Kontrol — Menerapkan kontrol keamanan yang mengurangi risiko. Untuk aplikasi AI generatif, ini termasuk sanitasi input, penyaringan keluaran, dan kontrol akses untuk penggunaan model. Untuk informasi selengkapnya, lihat Kontrol keamanan yang disarankan dalam panduan ini.

  • Ketahanan — Solusi AI generatif arsitek untuk menjaga ketersediaan dan memenuhi perjanjian tingkat layanan bisnis (SLA). Ini termasuk pertimbangan untuk redundansi model, mekanisme mundur, dan skalabilitas dalam berbagai kondisi beban.

Defense-in-depth adalah pendekatan keamanan siber yang menggunakan lapisan kontrol keamanan untuk melindungi sistem, jaringan, atau beban kerja. Lapisan yang berbeda membantu mendeteksi dan menghentikan serangan jika satu lapisan gagal. Minimal, kami merekomendasikan kontrol berikut untuk mengadopsi pendekatan pertahanan mendalam untuk beban kerja AI generatif dan lingkungannya:

  • Manajemen identitas dan akses — Layanan AWS, termasuk Amazon Bedrock dan Amazon SageMaker AI, terintegrasi secara native dengan AWS Identity and Access Management (IAM). IAM memberikan kontrol terperinci atas siapa yang dapat melakukan tindakan pada Anda Akun AWS dan sumber daya, seperti berlangganan model pondasi atau menjalankan inferensi pada model. Kami menyarankan Anda membuat beberapa peran IAM dengan izin granular. Misalnya, Anda dapat membuat peran berikut:

    • Peran evaluasi - Pengguna dengan peran ini dapat mengevaluasi model dasar di lingkungan kotak pasir saat model baru ditambahkan ke Amazon Bedrock. Pengguna ini harus berkoordinasi dengan tim hukum dan pengadaan Anda sebelum mengaktifkan langganan yang memungkinkan akses yang lebih luas.

    • Peran akses umum — Pengguna dengan peran ini dapat mengakses model dasar untuk penggunaan standar.

    • Fine-tuned peran akses model — Pengguna dengan peran ini dapat mengakses model yang disesuaikan dengan data milik Anda.

    • Peran akses model khusus — Pengguna dengan peran ini dapat mengakses model mutakhir dan berbiaya tinggi untuk kasus penggunaan tertentu.

  • Akses jaringan pribadi melalui AWS PrivateLink — Gunakan AWS PrivateLinkdengan Amazon Bedrock dan Amazon SageMaker AI untuk memanggil model dari dalam VPC dan jaringan lokal Anda. Ini membantu menjaga data sensitif dalam jaringan pribadi Anda.

  • Guardrails for Amazon Bedrock — Menerapkan pagar pembatas untuk mengelola dan memfilter permintaan dan tanggapan ke dan dari model pondasi. Ini menambahkan lapisan kontrol tambahan.

  • Simpan log pemanggilan dengan aman — Untuk memastikan bahwa penggunaan memenuhi kebutuhan kepatuhan Anda, Anda dapat menyimpan semua permintaan dan tanggapan ke bucket Amazon S3 atau ke Log Amazon. CloudWatch Untuk informasi selengkapnya, lihat Memantau pemanggilan model menggunakan CloudWatch Log dan Amazon S3 di dokumentasi Amazon Bedrock.

  • Audit dan lacak akses ke model foundation — Gunakan Amazon CloudWatch, layanan yang mencatat tindakan yang diambil oleh pengguna, peran, atau pengguna Layanan AWS. CloudTrail menangkap semua panggilan API untuk Amazon Bedrock sebagai peristiwa. Untuk informasi selengkapnya, lihat Memantau panggilan Amazon Bedrock API menggunakan CloudTrail dan Mencatat panggilan Amazon SageMaker AI API menggunakan AWS CloudTrail.

  • Ikuti 10 teratas OWASP untuk keamanan LLM - Patuhi 10 risiko keamanan teratas OWASP untuk aplikasi LLM, dan pastikan Anda telah mengidentifikasi strategi dan kontrol keamanan dengan jelas untuk merancang pertahanan berlapis. Untuk informasi lebih lanjut, lihat Keamanan mendalam pertahanan arsitek untuk aplikasi AI generatif menggunakan OWASP Top 10 untuk LLM (posting blog).AWS

Matriks pelingkupan keamanan

Kontrol keamanan spesifik yang Anda butuhkan bergantung pada sifat aplikasi AI generatif Anda. AWS Generative AI Security Scoping Matrix (posting AWS blog) menyediakan kerangka kerja untuk memahami persyaratan keamanan berdasarkan cakupan penerapan Anda. Gambar berikut menunjukkan matriks pelingkupan keamanan AI generatif, yang merupakan model mental untuk mengklasifikasikan kasus penggunaan.

Matriks pelingkupan keamanan untuk aplikasi AI generatif.

Matriks membantu organisasi mengidentifikasi kontrol keamanan yang sesuai berdasarkan faktor-faktor seperti:

  • Apakah aplikasi tersebut menghadap konsumen atau internal perusahaan

  • Penggunaan model yang telah dilatih sebelumnya dibandingkan dengan fine-tuning

  • Sensitivitas data yang sedang diproses

  • Kekritisan aplikasi untuk operasi bisnis

Rekomendasi implementasi

Untuk menerapkan kerangka kerja keamanan dan tata kelola yang komprehensif untuk beban kerja AI generatif Anda, pertimbangkan rekomendasi berikut:

  • Menetapkan kebijakan dan prosedur yang jelas untuk akses dan penggunaan model.

  • Menerapkan kontrol keamanan pada beberapa lapisan, seperti pada jaringan, aplikasi, dan lapisan data.

  • Lakukan penilaian keamanan reguler dan audit kepatuhan.

  • Pertahankan dokumentasi terperinci untuk tindakan dan kontrol keamanan.

  • Memberikan pelatihan kesadaran keamanan untuk tim yang bekerja dengan AI generatif.

  • Tinjau dan perbarui kontrol keamanan secara teratur saat ancaman berkembang.