Pertanyaan yang Sering Diajukan

T. Lapisan keamanan tambahan apa yang harus saya pertimbangkan untuk mencegah serangan injeksi yang cepat?

A. Diagram berikut menunjukkan tiga lapisan keamanan utama: input LLM, pagar pembatas bawaan LLM, dan pagar pembatas yang diperkenalkan pengguna.

Organisasi Anda harus mempertimbangkan untuk menerapkan protokol keamanan di semua lapisan. Untuk lapisan pertama (input LLM), pertimbangkan langkah-langkah mitigasi risiko untuk membantu mengamankan aplikasi dengan menerapkan mekanisme seperti informasi identitas pribadi (PII) atau redaksi informasi sensitif, otentikasi, otorisasi, dan enkripsi. Lapisan kedua (LLM built-in guardrails) adalah sekuritas model atau aplikasi yang disediakan oleh LLM. Meskipun sebagian besar LLM dilatih dengan protokol keamanan untuk mencegah penggunaan yang tidak tepat, organisasi Anda tetap harus mempertimbangkan untuk menambahkan kontrol keamanan tambahan dengan menggunakan Guardrails for Amazon Bedrock untuk menghadirkan tingkat keamanan AI yang konsisten di semua aplikasi AI generatif. Terakhir, pagar pembatas yang diperkenalkan pengguna harus memperkenalkan desain templat cepat terbaik dan langkah-langkah keamanan pasca-pemrosesan pada output yang dihasilkan untuk mencegah hasil yang tidak diinginkan.

T. Bagaimana organisasi dapat bertahan terhadap serangan injeksi yang cepat dalam rekayasa yang cepat?

A. Organizations dapat bertahan terhadap serangan injeksi cepat dengan menerapkan praktik teknik cepat terbaik seperti yang dibahas di bagian Praktik Terbaik. Organisasi Anda juga dapat mempertimbangkan untuk menambahkan pagar pembatas seperti validasi input, sanitasi yang cepat, dan saluran komunikasi yang aman.

T. Apakah elemen keamanan prompt model-agnostik?

A. Umumnya, elemen keamanan yang cepat dirancang untuk LLM tertentu. Setiap LLM dilatih secara berbeda dalam hal kualitas data, keragaman, representasi, bias, dan pendekatan fine-tuning, sehingga elemen keamanan yang cepat yang diperkenalkan untuk satu LLM tidak langsung dapat ditransfer ke LLM lain. Namun, elemen keamanan yang dibahas dalam panduan ini dapat memberikan kerangka kerja dan arahan untuk mengembangkan elemen keamanan cepat yang disesuaikan untuk LLM lainnya.

T. Bagaimana saya harus mengintegrasikan elemen-elemen ini ke dalam kerangka kerja MLOP perusahaan?

A. Bergantung pada kendala organisasi dan lanskap data Anda, elemen keamanan yang cepat dapat dimiliki oleh ilmuwan data atau pengembang yang sedang mengerjakan kasus penggunaan AI generatif tertentu atau oleh tim tata kelola AI generatif pusat. Saat Anda merancang kerangka kerja MLOP untuk solusi AI generatif dan merilis solusi ke lingkungan produksi, kami sarankan Anda meninjau posting AWS blog FMOps/LLMOps: Operasionalkan AI generatif dan perbedaan dengan MLOP dan Operasionalkan Evaluasi LLM pada Skala menggunakan Amazon AI Clarify dan layanan MLOPS sebagai titik awal. SageMaker Pertimbangkan untuk memperkenalkan gerbang keamanan untuk memastikan bahwa keamanan tingkat prompt yang tepat telah ditambahkan.

T. Apa sajakah beberapa kasus penggunaan yang berhasil?

A. Pagar pembatas yang dibahas dalam panduan ini berhasil digunakan dalam RAG-based solusi untuk SDM, polis perusahaan, ringkasan dokumen asuransi, investasi perusahaan, dan ringkasan rekam medis.