Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Toolkit di intelligenza artificiale responsabile e moderazione dei contenuti

Toolkit di intelligenza artificiale responsabile

Nova Forge fornisce un toolkit di intelligenza artificiale responsabile che include dati di formazione e valutazione per allineare i modelli alle linee guida sull'intelligenza artificiale responsabile di Amazon Nova durante il processo di formazione e controlli di runtime per moderare le risposte del modello durante l'inferenza.

Dati di formazione: sono disponibili casi e scenari che enfatizzano i principi dell'intelligenza artificiale responsabile, le considerazioni sulla sicurezza e l'implementazione responsabile della tecnologia per la miscelazione dei dati al fine di allineare i modelli in modo responsabile durante la formazione continua.

Valutazioni: le valutazioni che testano la capacità del modello di rilevare e rifiutare contenuti inappropriati, dannosi o errati sono disponibili come attività di riferimento per determinare il delta tra le prestazioni del modello di base e quelle del modello personalizzato.

Controlli di runtime: per impostazione predefinita, il runtime di Amazon Nova controlla le risposte moderate del modello durante l'inferenza. Per modificare questi controlli di runtime, richiedi le impostazioni di moderazione dei contenuti personalizzabili di Amazon Nova contattando un AWS account manager.

La sicurezza è una responsabilità condivisa tra AWS i suoi utenti. La modifica del modello di base o l'utilizzo di corsi di formazione continua per migliorare le prestazioni in un caso d'uso specifico possono influire sulla sicurezza, sull'equità e su altre proprietà del nuovo modello. Un metodo di adattamento robusto riduce al minimo le modifiche alla sicurezza, all'equità e ad altre protezioni integrate nei modelli base, riducendo al minimo l'impatto sulle prestazioni del modello per attività per le quali il modello non è stato personalizzato. End-to-endè necessario testare le applicazioni su set di dati rappresentativi dei casi d'uso per determinare se i risultati dei test soddisfano le aspettative specifiche di sicurezza, equità e altre proprietà, nonché l'efficacia complessiva. Per ulteriori informazioni, consulta la Guida all'uso AWS responsabile dell'IA, la Politica sull'IA AWS responsabile, la Politica sull'uso AWS accettabile e i Termini di AWS servizio.

Moderazione dei contenuti personalizzabile

Le impostazioni personalizzabili di moderazione dei contenuti (CCMS) consentono di regolare i controlli pertinenti ai requisiti aziendali, mantenendo al contempo i controlli essenziali e non configurabili per garantire un uso responsabile dell'intelligenza artificiale.

Queste impostazioni consentono la generazione di contenuti attraverso tre combinazioni disponibili: sicurezza; un'impostazione combinata per sicurezza, contenuti sensibili e correttezza; o tutte le combinazioni insieme.

Indipendentemente dalla configurazione CCMS, Amazon Nova applica controlli essenziali e non configurabili per garantire un uso responsabile dell'IA, come i controlli per prevenire danni ai bambini e preservare la privacy.

Quando usi CCMS, usa Continued Pre-Training (CPT) e inizia da un checkpoint di allineamento pre-RAI (solo testo parzialmente o completamente preaddestrato) anziché da un checkpoint di produzione completamente allineato. Questi checkpoint non sono stati sottoposti a formazione sulla sicurezza né sono stati orientati verso comportamenti RAI specifici, il che consente una personalizzazione più efficiente in base ai requisiti di moderazione dei contenuti.

CCMS è attualmente disponibile per Amazon Nova Lite 1.0 e Pro 1.0 con inferenza Amazon Bedrock On Demand nella regione us-east-1 (Virginia settentrionale). Per abilitare i modelli CCMS for Forge, contatta un account manager. AWS