Uso responsabile - Amazon Nova
Linee guidaRaccomandazioni

Uso responsabile

Creare misure di sicurezza, protezione e attendibilità con modelli IA è una responsabilità condivisa tra AWS e i nostri clienti. Il nostro obiettivo è allineare i modelli alla Policy di utilizzo accettabile di AWS e mitigare gli esiti indesiderati offrendo al contempo un’esperienza piacevole al cliente. Il nostro approccio all’IA responsabile (RAI) è strutturato attorno alle nostre dimensioni fondamentali dell’IA responsabile, che sono trattate nel seguente elenco. Per ognuna di queste dimensioni, abbiamo sviluppato linee guida che regolano il nostro processo decisionale durante l’intero ciclo di vita dello sviluppo del modello. Questo ciclo di vita comprende ogni fase, dalla raccolta iniziale dei dati e dall’addestramento preliminare, alla messa in funzione delle mitigazioni del runtime post-implementazione.

  • Equità: considerare l’impatto sui diversi gruppi di parti interessate

  • Spiegabilità: comprendere e valutare gli output di sistema

  • Privacy e sicurezza: ottenere, utilizzare, usare e proteggere dati e modelli in modo appropriato

  • Sicurezza: prevenire gli output dannosi e l’uso improprio

  • Controllabilità: disporre di meccanismi per monitorare e guidare il comportamento del sistema IA

  • Veridicità e robustezza: ottenere output di sistema corretti, anche con input imprevisti o contraddittori

  • Governance: integrazione delle migliori pratiche nella catena di fornitura dell’IA, compresi fornitori e responsabili dell’implementazione

  • Trasparenza: consentire alle parti interessate di fare scelte informate sul loro coinvolgimento con un sistema di intelligenza artificiale

Argomenti

Linee guida

Le linee guida che utilizziamo per indirizzare lo sviluppo del nostro modello includono, a titolo esemplificativo ma non esaustivo, la moderazione di contenuti che esaltano, facilitano o promuovono quanto segue:

  • Partecipazione ad attività pericolose, autolesionismo o uso di sostanze pericolose.

  • Uso, abuso o commercio di sostanze controllate, tabacco o alcol.

  • Violenza fisica.

  • Materiale pedofilo o pedopornografico.

  • Abuso o traffico di animali.

  • Disinformazione che attribuisce a individui o gruppi la responsabilità di inganni intenzionali, di minare un’istituzione che gode di una credibilità pubblica generale o di mettere in pericolo la salute umana o i mezzi di sussistenza.

  • Malware, contenuti dannosi o qualsiasi contenuto che faciliti la criminalità informatica.

  • Mancanza di rispetto, discriminazione o stereotipizzazione nei confronti di un individuo o di un gruppo.

  • Insulti, parolacce, gesti osceni, linguaggio sessualmente esplicito, pornografia, simboli di odio o gruppi di odio.

  • Nudità completa che non rientra in un contesto scientifico, educativo o di riferimento.

  • Pregiudizio nei confronti di un gruppo basato su una caratteristica demografica.

Raccomandazioni

Adeguatezza all’uso: poiché gli output del modello IA sono probabilistici, Amazon Nova può produrre contenuti imprecisi o inappropriati. I clienti devono valutare gli output per verificarne l’accuratezza e l’adeguatezza per il loro caso d’uso, soprattutto se verranno mostrati direttamente agli utenti finali. Inoltre, se Amazon Nova viene utilizzato nei flussi di lavoro dei clienti che producono decisioni consequenziali, i clienti devono valutare i potenziali rischi del loro caso d’uso e implementare la necessaria supervisione umana, i test e altre misure di protezione specifiche per i casi d’uso al fine di mitigare tali rischi.

Ottimizzazioni dei prompt: in caso di moderazione da parte di Amazon Nova, valuta la possibilità di esaminare i prompt utilizzati rispetto alle linee guida riportate sopra. L’ottimizzazione dei prompt per ridurre la probabilità di generare risultati indesiderati è la strategia consigliata per produrre gli output previsti utilizzando i modelli Amazon Nova. Presta attenzione ai punti in cui l’input è controllato dagli utenti, compresi i contenuti in pixel che potrebbero influire sulle prestazioni del modello. Per ulteriori dettagli, consulta la sezione relativa alle linee guida sui prompt di questa guida per l’utente.

Privacy: Amazon Nova è disponibile in Amazon Bedrock. Amazon Bedrock è un servizio gestito e non memorizza né esamina i prompt dei clienti o i completamenti dei prompt dei clienti, e i prompt e i completamenti non vengono mai condivisi tra clienti o con i partner Amazon Bedrock. AWS non utilizza input o output generati attraverso il servizio Amazon Bedrock per addestrare i modelli Amazon Bedrock, incluso Amazon Nova. Per ulteriori informazioni, consulta la Sezione 50.3 dei Termini di servizio di AWS e le Domande frequenti sulla privacy dei dati di AWS. Per informazioni sulla privacy specifiche del servizio, consulta la sezione Privacy e sicurezza della documentazione relativa alle domande frequenti su Amazon Bedrock. Amazon Nova adotta misure per evitare di completare prompt che potrebbero essere interpretati come una richiesta di informazioni private. Se un utente teme che le sue informazioni private siano state incluse in un completamento di Amazon Nova, deve contattarci qui.

Sicurezza: tutti i modelli Amazon Bedrock, incluso Amazon Nova, sono dotati di una sicurezza aziendale che consente ai clienti di creare applicazioni di IA generativa che supportano standard comuni di sicurezza e conformità dei dati, tra cui GDPR e HIPAA. I clienti possono utilizzare AWS PrivateLink per stabilire una connettività privata tra reti Amazon Nova personalizzate e reti locali senza esporre il traffico dei clienti a Internet. I dati dei clienti sono sempre crittografati in transito e a riposo, e i clienti possono utilizzare le proprie chiavi per crittografare i dati, ad esempio utilizzando AWS Key Management Service. I clienti possono utilizzare AWS Identity and Access Management per controllare in modo sicuro l’accesso alle risorse Amazon Bedrock, tra cui Amazon Nova personalizzato. Inoltre, Amazon Bedrock offre funzionalità complete di monitoraggio e registrazione in grado di supportare i requisiti di governance e audit dei clienti. Ad esempio, Amazon CloudWatch può aiutare a monitorare i parametri di utilizzo necessari a fini di audit AWS CloudTrail e può monitorare l’attività delle API e risolvere i problemi, poiché Amazon Nova è integrato con altri sistemi AWS. I clienti possono inoltre scegliere di archiviare i metadati, i prompt e i completamenti nel proprio bucket Amazon Simple Storage Service (Amazon S3) criptato.

Proprietà intellettuale: AWS offre una copertura di indennizzo illimitata sulla proprietà intellettuale (IP) per i prodotti dei modelli Amazon Nova generalmente disponibili (vedi la Sezione 50.10 dei Termini di servizio). Ciò significa che i clienti sono protetti dalle rivendicazioni di terzi relative alla violazione o all’appropriazione indebita della proprietà intellettuale (incluse le rivendicazioni sul copyright) da parte degli output generati da questi modelli Amazon Nova. Inoltre, la nostra indennità IP standard per l’uso dei Servizi protegge i clienti da rivendicazioni di terzi relative a presunte violazioni della proprietà intellettuale (incluse le rivendicazioni sul copyright) da parte dei Servizi (inclusi i modelli Amazon Nova) e dai dati utilizzati per addestrarli.