Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Toolkit AI responsabile e moderazione dei contenuti

Responsible AI Toolkit

Nova Forge fornisce un Responsible AI Toolkit che include dati di formazione e valutazione per allineare i modelli alle linee guida sull'intelligenza artificiale responsabile di Amazon Nova durante il processo di formazione e controlli di runtime per moderare le risposte del modello durante l'inferenza.

Dati di formazione: sono disponibili casi e scenari che enfatizzano i principi dell'intelligenza artificiale responsabile, le considerazioni sulla sicurezza e l'implementazione responsabile della tecnologia per la miscelazione dei dati al fine di allineare i modelli in modo responsabile durante la formazione continua.

Valutazioni: le valutazioni che testano la capacità del modello di rilevare e rifiutare contenuti inappropriati, dannosi o errati sono disponibili come attività di riferimento per determinare il delta tra le prestazioni del modello di base e le prestazioni del modello personalizzato.

Controlli di runtime: per impostazione predefinita, il runtime di Amazon Nova controlla le risposte moderate del modello durante l'inferenza. Per modificare questi controlli di runtime, richiedi le impostazioni di moderazione dei contenuti personalizzabili di Amazon Nova contattando un account manager di Amazon Web Services.

La sicurezza è una responsabilità condivisa tra Amazon Web Services e i suoi utenti. La modifica del modello di base o l'utilizzo di corsi di formazione continua per migliorare le prestazioni in un caso d'uso specifico possono influire sulla sicurezza, sull'equità e su altre proprietà del nuovo modello. Un metodo di adattamento robusto riduce al minimo le modifiche alla sicurezza, all'equità e ad altre protezioni integrate nei modelli base, riducendo al minimo l'impatto sulle prestazioni del modello per attività per le quali il modello non è stato personalizzato. End-to-endè necessario testare le applicazioni su set di dati rappresentativi dei casi d'uso per determinare se i risultati dei test soddisfano le aspettative specifiche di sicurezza, equità e altre proprietà, nonché l'efficacia complessiva. Per ulteriori informazioni, consulta la Guida all'uso responsabile dell'IA di Amazon Web Services, la Politica sull'IA responsabile di Amazon Web Services, la Politica di utilizzo accettabile di Amazon Web Services e i Termini del servizio di Amazon Web Services.

Moderazione dei contenuti personalizzabile

Le impostazioni personalizzabili di moderazione dei contenuti (CCMS) consentono di regolare i controlli pertinenti ai requisiti aziendali, mantenendo al contempo i controlli essenziali e non configurabili per garantire un uso responsabile dell'intelligenza artificiale.

Queste impostazioni consentono la generazione di contenuti attraverso tre configurazioni disponibili:

Le quattro categorie di moderazione dei contenuti sono:

Indipendentemente dalla configurazione CCMS, Amazon Nova applica controlli essenziali e non configurabili per garantire un uso responsabile dell'intelligenza artificiale, come i controlli per prevenire danni ai bambini e preservare la privacy.

Quando si utilizza CCMS, si consiglia di utilizzare Continued Pre-Training (CPT) e di iniziare da un checkpoint di allineamento pre-RAI (solo testo parzialmente o completamente preaddestrato) anziché da un checkpoint di produzione completamente allineato. Questi checkpoint non sono stati sottoposti a formazione sulla sicurezza né sono stati orientati verso comportamenti RAI specifici, il che consente di personalizzarli in modo più efficiente in base ai requisiti di moderazione dei contenuti.

Disponibilità

Il CCMS è attualmente disponibile per i clienti approvati che utilizzano:

Per abilitare CCMS per i tuoi modelli Forge, contatta un account manager di Amazon Web Services.