Konfigurasikan filter konten untuk Amazon Bedrock Guardrails - Amazon Bedrock
Klasifikasi filter dan tingkat pemblokiranKekuatan filter

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Konfigurasikan filter konten untuk Amazon Bedrock Guardrails

Dengan Amazon Bedrock Guardrails, Anda dapat mengonfigurasi filter konten untuk memblokir permintaan model dan respons dalam bahasa alami untuk teks dan gambar yang berisi konten berbahaya. Misalnya, situs e-commerce dapat merancang asisten online-nya untuk menghindari penggunaan bahasa dan atau gambar yang tidak pantas.

Klasifikasi filter dan tingkat pemblokiran

Penyaringan dilakukan berdasarkan klasifikasi kepercayaan input pengguna dan tanggapan FM di masing-masing dari enam kategori. Semua input pengguna dan respons FM diklasifikasikan di empat tingkat kekuatan -NONE,, LOWMEDIUM, danHIGH. Misalnya, jika sebuah pernyataan diklasifikasikan sebagai Benci dengan HIGH percaya diri, kemungkinan pernyataan itu mewakili konten kebencian tinggi. Sebuah pernyataan tunggal dapat diklasifikasikan di beberapa kategori dengan tingkat kepercayaan yang bervariasi. Misalnya, satu pernyataan dapat diklasifikasikan sebagai Benci dengan HIGH percaya diri, Penghinaan dengan percaya LOW diri, Seksual denganNONE, dan Kekerasan dengan MEDIUM percaya diri.

Kekuatan filter

Anda dapat mengonfigurasi kekuatan filter untuk setiap kategori filter konten. Kekuatan filter menentukan sensitivitas penyaringan konten berbahaya. Saat kekuatan filter meningkat, kemungkinan penyaringan konten berbahaya meningkat dan kemungkinan melihat konten berbahaya dalam aplikasi Anda berkurang.

Anda memiliki empat tingkat kekuatan filter

  • Tidak ada - Tidak ada filter konten yang diterapkan. Semua input pengguna dan output yang dihasilkan FM diizinkan.

  • Rendah — Kekuatan filter rendah. Konten yang diklasifikasikan sebagai berbahaya dengan HIGH percaya diri akan disaring. Konten yang diklasifikasikan sebagai berbahaya dengan NONELOW,, atau MEDIUM kepercayaan akan diizinkan.

  • Medium — Konten yang diklasifikasikan sebagai berbahaya dengan HIGH dan MEDIUM kepercayaan diri akan disaring. Konten yang diklasifikasikan sebagai berbahaya dengan NONE atau LOW kepercayaan akan diizinkan.

  • Tinggi - Ini mewakili konfigurasi penyaringan yang paling ketat. Konten diklasifikasikan sebagai berbahaya denganHIGH, MEDIUM dan LOW kepercayaan diri akan disaring. Konten yang dianggap tidak berbahaya akan diizinkan.

Kekuatan filter Kepercayaan konten yang diblokir Kepercayaan konten yang diizinkan
Tidak ada Tidak ada penyaringan Tidak ada, Rendah, Sedang, Tinggi
Rendah Tinggi Tidak ada, Rendah, Sedang
Sedang Tinggi, Sedang Tidak ada, Rendah
Tinggi Tinggi, Sedang, Rendah Tidak ada