FAQ

T. Lapisan keamanan tambahan apa yang harus saya pertimbangkan untuk mencegah serangan injeksi yang cepat?

A. Diagram berikut menunjukkan tiga lapisan keamanan utama: LLM input, pagar pembatas LLM bawaan, dan pagar pembatas yang diperkenalkan pengguna.

Organisasi Anda harus mempertimbangkan untuk menerapkan protokol keamanan di semua lapisan. Untuk lapisan pertama (LLMinput), pertimbangkan langkah-langkah mitigasi risiko untuk membantu mengamankan aplikasi dengan menerapkan mekanisme seperti informasi yang dapat diidentifikasi secara pribadi (PII) atau redaksi informasi sensitif, otentikasi, otorisasi, dan enkripsi. Lapisan kedua (pagar pembatas LLM bawaan) adalah sekuritas model atau aplikasi yang disediakan oleh. LLM Meskipun sebagian besar LLMs dilatih dengan protokol keamanan untuk mencegah penggunaan yang tidak tepat, organisasi Anda tetap harus mempertimbangkan untuk menambahkan kontrol keamanan tambahan dengan menggunakan Guardrails for Amazon Bedrock untuk menghadirkan tingkat keamanan AI yang konsisten di semua aplikasi AI generatif. Terakhir, pagar pembatas yang diperkenalkan pengguna harus memperkenalkan desain templat cepat terbaik dan langkah-langkah keamanan pasca-pemrosesan pada output yang dihasilkan untuk mencegah hasil yang tidak diinginkan.

T. Bagaimana organisasi dapat bertahan terhadap serangan injeksi yang cepat dalam rekayasa yang cepat?

A. Organizations dapat bertahan terhadap serangan injeksi cepat dengan menerapkan praktik teknik cepat terbaik seperti yang dibahas di bagian Praktik Terbaik. Organisasi Anda juga dapat mempertimbangkan untuk menambahkan pagar pembatas seperti validasi input, sanitasi yang cepat, dan saluran komunikasi yang aman.

T. Apakah elemen keamanan prompt model-agnostik?

A. Umumnya, elemen keamanan yang cepat dirancang untuk spesifikLLMs. Masing-masing LLM dilatih secara berbeda dalam hal kualitas data, keragaman, representasi, bias, dan pendekatan fine-tuning, sehingga elemen keamanan cepat yang diperkenalkan untuk satu LLM tidak langsung dapat ditransfer ke yang lain. LLM Namun, elemen keamanan yang dibahas dalam panduan ini dapat memberikan kerangka kerja dan arahan untuk mengembangkan elemen keamanan cepat yang disesuaikan untuk lainnyaLLMs.

T. Bagaimana saya harus mengintegrasikan elemen-elemen ini ke dalam MLOps kerangka kerja perusahaan?

A. Bergantung pada kendala organisasi dan lanskap data Anda, elemen keamanan yang cepat dapat dimiliki oleh ilmuwan data atau pengembang yang sedang mengerjakan kasus penggunaan AI generatif tertentu atau oleh tim tata kelola AI generatif pusat. Saat Anda merancang MLOps kerangka kerja untuk solusi AI generatif dan merilis solusi ke lingkungan produksi, kami sarankan Anda meninjau posting AWS blog FMOps/LLMOps: Operasionalkan AI generatif dan perbedaan dengan MLOps dan Operasionalkan Evaluasi LLM pada Skala menggunakan Amazon SageMaker AI Clarify dan MLOps layanan sebagai titik awal. Pertimbangkan untuk memperkenalkan gerbang keamanan untuk memastikan bahwa keamanan tingkat prompt yang tepat telah ditambahkan.

T. Apa saja kasus penggunaan yang berhasil?

A. Pagar pembatas yang dibahas dalam panduan ini berhasil digunakan dalam solusi RAG berbasis untuk SDM, polis perusahaan, ringkasan dokumen asuransi, investasi perusahaan, dan ringkasan rekam medis.