Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Toolkit AI yang bertanggung jawab dan moderasi konten
Toolkit AI yang Bertanggung Jawab
Nova Forge menyediakan Toolkit AI Bertanggung Jawab yang mencakup data pelatihan dan evaluasi untuk menyelaraskan model dengan pedoman AI Amazon Nova yang bertanggung jawab selama proses pelatihan, dan kontrol runtime untuk memoderasi respons model selama inferensi.
Data pelatihan — Kasus dan skenario yang menekankan prinsip AI yang bertanggung jawab, pertimbangan keselamatan, dan penyebaran teknologi yang bertanggung jawab tersedia untuk pencampuran data guna menyelaraskan model secara bertanggung jawab selama pra-pelatihan lanjutan.
Evaluasi — Evaluasi yang menguji kemampuan model untuk mendeteksi dan menolak konten yang tidak pantas, berbahaya, atau salah tersedia sebagai tugas patokan untuk menentukan delta antara kinerja model dasar dan kinerja model khusus.
Kontrol runtime — Secara default, runtime Amazon Nova mengontrol respons model moderat selama inferensi. Untuk mengubah kontrol waktu proses ini, minta Pengaturan Moderasi Konten yang Dapat Disesuaikan Amazon Nova dengan menghubungi manajer akun Amazon Web Services.
Keamanan adalah tanggung jawab bersama antara Amazon Web Services dan penggunanya. Mengubah model dasar atau menggunakan pra-pelatihan lanjutan untuk meningkatkan kinerja pada kasus penggunaan tertentu dapat memengaruhi keselamatan, keadilan, dan properti lain dari model baru. Metode adaptasi yang kuat meminimalkan perubahan pada keselamatan, keadilan, dan perlindungan lain yang dibangun ke dalam model dasar sambil meminimalkan dampak pada kinerja model untuk tugas-tugas yang tidak disesuaikan untuk model. End-to-endpengujian aplikasi pada kumpulan data yang mewakili kasus penggunaan diperlukan untuk menentukan apakah hasil pengujian memenuhi harapan spesifik keamanan, keadilan, dan properti lainnya, serta efektivitas keseluruhan. Untuk informasi selengkapnya, lihat Panduan Penggunaan AI yang Bertanggung Jawab Amazon Web Services, Kebijakan AI Bertanggung Jawab Amazon Web Services, Kebijakan Penggunaan yang Dapat Diterima Amazon Web Services, dan Ketentuan Layanan Amazon Web Services.
Moderasi konten yang dapat disesuaikan
Pengaturan moderasi konten yang dapat disesuaikan (CCMS) memungkinkan penyesuaian kontrol yang relevan dengan persyaratan bisnis sambil mempertahankan kontrol penting yang tidak dapat dikonfigurasi untuk memastikan penggunaan AI yang bertanggung jawab.
Pengaturan ini memungkinkan pembuatan konten melalui tiga konfigurasi yang tersedia:
Keamanan saja
Keamanan, konten sensitif, dan keadilan digabungkan
Semua kategori digabungkan
Empat kategori moderasi konten adalah:
-
Keselamatan — Meliputi aktivitas berbahaya, senjata, dan zat yang dikendalikan
-
Konten sensitif - Termasuk kata-kata kotor, ketelanjangan, dan intimidasi
-
Keadilan — Mengatasi bias dan pertimbangan budaya
-
Keamanan — Melibatkan kejahatan dunia maya, malware, dan konten berbahaya
Terlepas dari konfigurasi CCMS Anda, Amazon Nova memberlakukan kontrol penting yang tidak dapat dikonfigurasi untuk memastikan penggunaan AI yang bertanggung jawab, seperti kontrol untuk mencegah bahaya pada anak-anak dan menjaga privasi.
Saat menggunakan CCMS, sebaiknya gunakan Continued Pre-Training (CPT) dan mulai dari pos pemeriksaan penyelarasan pra-RAI (hanya teks terlatih sebagian atau seluruhnya) daripada pos pemeriksaan produksi yang sepenuhnya selaras. Pos pemeriksaan ini belum menjalani pelatihan keselamatan atau diarahkan ke perilaku RAI tertentu, memungkinkan Anda untuk menyesuaikannya secara lebih efisien dengan persyaratan moderasi konten Anda.
Tip
Saat menggunakan CCMS dengan pencampuran data, pertimbangkan untuk menyesuaikan persentase kategori “rai” dalam konfigurasi nova_data Anda agar selaras dengan persyaratan moderasi konten spesifik Anda.
Ketersediaan
CCMS saat ini tersedia untuk pelanggan yang disetujui menggunakan:
Model Amazon Nova Lite 1.0 dan Pro 1.0
Inferensi Berdasarkan Permintaan Amazon Bedrock
Wilayah us-east-1 (Virginia N.)
Untuk mengaktifkan CCM untuk model Forge Anda, hubungi manajer akun Amazon Web Services.
