View a markdown version of this page

GuardDuty Perlindungan AI - Amazon GuardDuty
Bagaimana AI Protection bekerjaHarga untuk Perlindungan AIDeteksi ancaman tambahan untuk beban kerja AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

GuardDuty Perlindungan AI

GuardDuty AI Protection memperluas deteksi GuardDuty ancaman Amazon ke beban kerja AI bawaan. AWS Saat Anda mengaktifkan Perlindungan AI, GuardDuty analisis peristiwa AWS CloudTrail data dari Amazon Bedrock, Amazon Bedrock, AgentCore dan Amazon SageMaker AI, bersama dengan AWS CloudTrail peristiwa manajemen. GuardDuty menggunakan data ini untuk mendeteksi aktivitas yang berpotensi mencurigakan yang menargetkan model pondasi dan aplikasi yang memanggilnya. Ketika GuardDuty mengidentifikasi ancaman potensial, itu menghasilkan satu atau lebihJenis penemuan Perlindungan AI.

Saat Anda mengaktifkan Perlindungan AI, GuardDuty dapat mendeteksi jenis ancaman berikut:

  • Pemanggilan anomali dari Amazon Bedrock atau SageMaker Amazon AI model yang menyimpang dari baseline yang ditetapkan untuk identitas atau akun, seperti pemanggilan dari alamat IP yang tidak biasa, API yang tidak biasa, atau model yang tidak biasa.

  • Serangan panen biaya, di mana aktor ancaman mengirimkan input yang mahal secara komputasi ke model Amazon Bedrock atau SageMaker Amazon AI untuk meningkatkan konsumsi token dan biaya operasi akun.

  • Upaya injeksi cepat langsung, di mana aktor ancaman membuat permintaan jahat untuk membuat model pondasi mengabaikan instruksi aslinya. Deteksi ini memerlukan Amazon Bedrock Guardrails dan hanya berlaku untuk beban kerja Amazon Bedrock.

catatan

Jenis temuan yang GuardDuty dapat dihasilkan Wilayah AWS bergantung pada layanan AI mana yang tersedia di Wilayah tersebut:

Untuk daftar Wilayah di mana setiap jenis temuan didukung, lihatRegion-specific ketersediaan fitur.

Tip

Untuk mendapatkan nilai keamanan maksimal dari Perlindungan AI, terapkan Amazon Bedrock Guardrails untuk serangan cepat di semua akun di organisasi Anda. AWS Gunakan kebijakan AWS Organizations Amazon Bedrock untuk mengelola pengaturan pagar pembatas ini secara terpusat. Ini memungkinkan perlindungan seragam di semua akun dengan kontrol dan manajemen terpusat. Ketika pagar pembatas serangan cepat diberlakukan, GuardDuty buat temuan injeksi yang cepat. Untuk informasi selengkapnya, lihat Impact:IAMUser/PromptInjection.Direct.

Untuk mendeteksi ancaman terhadap beban kerja AI Anda, Anda harus mengaktifkan Perlindungan AI di GuardDuty akun Anda. Untuk informasi tentang mengaktifkan Perlindungan AI, lihat Mengaktifkan Perlindungan AI di lingkungan multi-akun untuk lingkungan multi-akun atau. Mengaktifkan Perlindungan AI untuk akun mandiri

Topik

Bagaimana AI Protection bekerja

Saat Anda mengaktifkan Perlindungan AI untuk akun atau di seluruh organisasi Anda, GuardDuty secara otomatis mulai mengumpulkan peristiwa AWS CloudTrail data dari layanan AI di akun yang dipantau. Anda tidak perlu membuat jejak, mengaktifkan pencatatan peristiwa data, atau membuat perubahan apa pun pada aplikasi AI Anda.

Untuk mengumpulkan peristiwa data, GuardDuty buat saluran AWS CloudTrail terkait layanan di setiap akun yang dipantau. Saluran terkait layanan mengalirkan peristiwa AWS CloudTrail data untuk Amazon Bedrock, Amazon Bedrock, dan Amazon AgentCore AI, dan SageMaker sumber daya AI GuardDuty terkait untuk analisis. Karena GuardDuty membuat dan mengelola saluran ini:

  • GuardDuty mengonfigurasi setelan peristiwa data saluran, dan pemilik akun tidak dapat memodifikasinya. Ini berarti deteksi ancaman tidak bergantung pada pemilik akun yang mengonfigurasi atau memelihara jejak.

  • Setiap akun yang dipantau dapat mengonfirmasi bahwa saluran aktif di CloudTrail konsol (di bawah Pengaturan, Service-linkedsaluran) atau dengan memanggil operasi AWS CloudTrail ListChannelsAPI.

GuardDuty menggunakan dua metode deteksi untuk menghasilkan temuan Perlindungan AI, tergantung pada jenis temuan:

  • Untuk jenis Impact:IAMUser/AnomalousModelInvocation dan Impact:IAMUser/CostHarvesting temuan, GuardDuty gunakan model pembelajaran mesin deteksi anomali (ML) untuk menganalisis peristiwa yang dikumpulkan dan menetapkan dasar aktivitas pemanggilan model normal untuk setiap identitas IAM dan. Akun AWS GuardDuty menghasilkan temuan ketika mendeteksi aktivitas yang menyimpang secara signifikan dari baseline ini.

  • Untuk jenis Impact:IAMUser/PromptInjection.Direct temuan, buat temuan saat Amazon Bedrock Guardrails mengevaluasi prompt dan mendeteksi serangan cepat, berdasarkan peristiwa data yang GuardDuty dihasilkan. AWS CloudTrail

Untuk informasi selengkapnya tentang peristiwa AWS CloudTrail data, lihat Mencatat peristiwa data di Panduan AWS CloudTrail Pengguna.

Harga untuk Perlindungan AI

Saat Anda mengaktifkan Perlindungan GuardDuty AI, GuardDuty biaya untuk volume peristiwa AWS CloudTrail data yang dianalisis, diukur dalam GB. GuardDuty membuat saluran terkait layanan tanpa CloudTrail biaya tambahan kepada Anda. Biaya pengumpulan peristiwa data ini sudah termasuk dalam biaya penggunaan Perlindungan AI Anda. Anda juga terus dikenakan biaya penggunaan standar untuk GuardDuty dan paket perlindungan lain yang diaktifkan. Untuk harga dan contoh saat ini, lihat GuardDuty harga Amazon.

Deteksi ancaman tambahan untuk beban kerja AI

Selain rencana Perlindungan AI, paket Amazon GuardDuty Foundational dan Lambda Protection menawarkan deteksi untuk membantu Anda mengamankan dan mendeteksi ancaman terhadap beban kerja AI bawaan. AWS

Rencana GuardDuty Foundational memantau peristiwa AWS CloudTrail manajemen untuk mendeteksi aktivitas mencurigakan dan berbahaya dalam beban kerja AI yang dibuat dengan menggunakan AWS layanan, termasuk Amazon Bedrock dan Amazon AI. SageMaker Misalnya, GuardDuty dapat mengidentifikasi kegiatan seperti:

  • Penghapusan pagar keamanan Amazon Bedrock yang tidak biasa

  • Perubahan pada sumber data pelatihan model yang berpotensi menyebabkan serangan keracunan data

  • Pencatatan dinonaktifkan untuk pemanggilan model Amazon Bedrock yang mungkin menunjukkan upaya untuk menghindari deteksi

  • Contoh notebook yang tidak biasa atau pelatihan penciptaan lapangan kerja di Amazon SageMaker AI

  • Kredensi Amazon Elastic Compute Cloud yang diekstraksi yang mungkin telah digunakan untuk memanggil API di Amazon Bedrock, Amazon AI, atau beban kerja SageMaker AI yang dikelola sendiri di instans Amazon EC2, kluster Amazon EKS, atau tugas Amazon ECS.

GuardDuty Lambda Protection dapat membantu mendeteksi potensi ancaman yang terkait dengan agen Amazon Bedrock. Ini mungkin termasuk aktivitas jaringan yang mencurigakan seperti cryptomining, dan komunikasi dengan server perintah dan kontrol berbahaya. Ancaman ini dapat disebabkan oleh serangan rantai pasokan atau dorongan kompleks.