View a markdown version of this page

GuardDuty Perlindungan AI - Amazon GuardDuty
Cara kerja Perlindungan AIHarga untuk Perlindungan AIDeteksi ancaman tambahan untuk beban kerja AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

GuardDuty Perlindungan AI

GuardDuty Perlindungan AI memperluas deteksi GuardDuty ancaman Amazon ke beban kerja AI yang dibangun. AWS Saat Anda mengaktifkan Perlindungan AI, GuardDuty menganalisis peristiwa AWS CloudTrail data dari Amazon Bedrock, Amazon Bedrock AgentCore, dan Amazon SageMaker AI, bersama dengan peristiwa AWS CloudTrail manajemen. GuardDuty menggunakan data ini untuk mendeteksi aktivitas yang berpotensi mencurigakan yang menargetkan model dasar dan aplikasi yang memintanya. Ketika GuardDuty mengidentifikasi ancaman potensial, itu menghasilkan satu atau lebihJenis penemuan Perlindungan AI.

Saat Anda mengaktifkan Perlindungan AI, GuardDuty dapat mendeteksi jenis ancaman berikut:

  • Pemanggilan anomali model Amazon Bedrock atau Amazon SageMaker AI yang menyimpang dari baseline yang ditetapkan untuk identitas atau akun, seperti pemanggilan dari alamat IP yang tidak biasa, API yang tidak biasa, atau model yang tidak biasa.

  • Serangan pemanenan biaya, di mana aktor ancaman mengirimkan input mahal secara komputasi ke model Amazon Bedrock atau Amazon SageMaker AI untuk meningkatkan konsumsi token dan biaya operasi akun.

  • Upaya injeksi cepat langsung, di mana aktor ancaman membuat perintah jahat untuk membuat model pondasi mengabaikan instruksi aslinya. Deteksi ini memerlukan Amazon Bedrock Guardrails dan hanya berlaku untuk beban kerja Amazon Bedrock.

catatan

Jenis temuan yang GuardDuty dapat dihasilkan Wilayah AWS tergantung pada layanan AI mana yang tersedia di Wilayah tersebut:

Untuk daftar Wilayah di mana setiap jenis temuan didukung, lihatRegion-specific ketersediaan fitur.

Tip

Untuk mendapatkan nilai keamanan maksimal dari AI Protection, terapkan Amazon Bedrock Guardrails untuk serangan cepat di semua akun di organisasi Anda. AWS Gunakan kebijakan AWS Organizations Amazon Bedrock untuk mengelola pengaturan pagar pembatas ini secara terpusat. Hal ini memungkinkan perlindungan yang seragam di semua akun dengan kontrol dan manajemen terpusat. Ketika pagar pembatas serangan cepat diberlakukan, GuardDuty menciptakan temuan injeksi yang cepat. Untuk informasi selengkapnya, lihat Impact:IAMUser/PromptInjection.Direct.

Untuk mendeteksi ancaman terhadap beban kerja AI Anda, Anda harus mengaktifkan Perlindungan AI di GuardDuty akun Anda. Untuk informasi tentang mengaktifkan Perlindungan AI, lihat Mengaktifkan Perlindungan AI di lingkungan multi-akun untuk lingkungan multi-akun atau. Mengaktifkan Perlindungan AI untuk akun mandiri

Topik

Cara kerja Perlindungan AI

Saat Anda mengaktifkan Perlindungan AI untuk akun atau di seluruh organisasi Anda, GuardDuty secara otomatis mulai mengumpulkan peristiwa AWS CloudTrail data dari layanan AI di akun yang dipantau. Anda tidak perlu membuat jejak, mengaktifkan pencatatan peristiwa data, atau membuat perubahan apa pun pada aplikasi AI Anda.

Untuk mengumpulkan peristiwa data, buat GuardDuty saluran AWS CloudTrail terkait layanan di setiap akun yang dipantau. Saluran terkait layanan mengalirkan peristiwa AWS CloudTrail data untuk Amazon Bedrock, Amazon Bedrock, dan Amazon AI AgentCore, dan sumber daya SageMaker AI terkait ke untuk dianalisis. GuardDuty Karena GuardDuty membuat dan mengelola saluran ini:

  • GuardDuty mengonfigurasi pengaturan peristiwa data saluran, dan pemilik akun tidak dapat mengubahnya. Ini berarti deteksi ancaman tidak bergantung pada pemilik akun yang mengonfigurasi atau memelihara jejak.

  • Setiap akun yang dipantau dapat mengonfirmasi bahwa saluran aktif di CloudTrail konsol (di bawah Pengaturan, Service-linked saluran) atau dengan memanggil operasi AWS CloudTrail ListChannels API.

GuardDuty menggunakan dua metode deteksi untuk menghasilkan temuan Perlindungan AI, tergantung pada jenis temuan:

  • Untuk jenis Impact:IAMUser/AnomalousModelInvocation dan Impact:IAMUser/CostHarvesting temuan, GuardDuty menggunakan model pembelajaran mesin deteksi anomali (ML) untuk menganalisis peristiwa yang dikumpulkan dan menetapkan dasar aktivitas pemanggilan model normal untuk setiap identitas IAM dan. Akun AWS GuardDuty menghasilkan temuan ketika mendeteksi aktivitas yang menyimpang secara signifikan dari baseline ini.

  • Untuk jenis Impact:IAMUser/PromptInjection.Direct temuan, GuardDuty menghasilkan temuan saat Amazon Bedrock Guardrails mengevaluasi prompt dan mendeteksi serangan prompt, berdasarkan peristiwa data yang dihasilkan AWS CloudTrail .

Untuk informasi selengkapnya tentang peristiwa AWS CloudTrail data, lihat Pencatatan peristiwa data di Panduan AWS CloudTrail Pengguna.

Harga untuk Perlindungan AI

Saat Anda mengaktifkan GuardDuty Perlindungan AI, GuardDuty biaya untuk volume peristiwa AWS CloudTrail data yang dianalisis, diukur dalam GB. GuardDuty membuat saluran terkait layanan tanpa CloudTrail biaya tambahan kepada Anda. Biaya pengumpulan peristiwa data ini termasuk dalam biaya penggunaan Perlindungan AI Anda. Anda juga terus dikenakan biaya penggunaan standar untuk GuardDuty dan paket perlindungan yang diaktifkan lainnya. Untuk harga dan contoh saat ini, lihat GuardDuty Harga Amazon.

Deteksi ancaman tambahan untuk beban kerja AI

Selain paket Perlindungan AI, paket Amazon GuardDuty Foundational dan Lambda Protection menawarkan deteksi untuk membantu Anda mengamankan dan mendeteksi ancaman terhadap beban kerja AI yang dibangun. AWS

R GuardDuty encana Dasar memantau peristiwa AWS CloudTrail manajemen untuk mendeteksi aktivitas mencurigakan dan berbahaya dalam beban kerja AI yang dibuat dengan menggunakan AWS layanan, termasuk Amazon Bedrock dan Amazon AI. SageMaker Misalnya, GuardDuty dapat mengidentifikasi kegiatan seperti:

  • Penghapusan pagar keamanan Amazon Bedrock yang tidak biasa

  • Perubahan pada sumber data pelatihan model yang berpotensi menyebabkan serangan keracunan data

  • Pencatatan log yang dinonaktifkan untuk pemanggilan model Amazon Bedrock yang mungkin mengindikasikan upaya untuk menghindari deteksi

  • Instans notebook yang tidak biasa atau pembuatan pekerjaan pelatihan di Amazon SageMaker AI

  • Ekspresi kredensional Amazon Elastic Compute Cloud yang mungkin telah digunakan untuk memanggil API di Amazon Bedrock, Amazon SageMaker AI, atau beban kerja AI yang dikelola sendiri pada instans Amazon EC2, cluster Amazon EKS, atau tugas Amazon ECS.

GuardDuty Lambda Protection dapat membantu mendeteksi potensi ancaman yang terkait dengan agen Amazon Bedrock. Ini mungkin termasuk aktivitas jaringan yang mencurigakan seperti cryptomining, dan komunikasi dengan server perintah dan kontrol berbahaya. Ancaman ini dapat disebabkan oleh serangan rantai pasokan atau dorongan kompleks.