Utilisation responsable - Amazon Nova
ConsignesRecommandations

Utilisation responsable

Créer des mesures de sécurité, de sûreté et de confiance avec les modèles d’IA est une responsabilité partagée entre AWS et nos clients. Notre objectif est d’aligner nos modèles sur la Politique d’utilisation acceptable d’AWS et d’atténuer les résultats indésirables tout en offrant une expérience client agréable. Notre approche de l’IA responsable (RAI) s’articule autour de nos dimensions fondamentales de l’IA responsable, qui sont présentées dans la liste suivante. Pour chacune de ces dimensions, nous avons élaboré des lignes directrices qui régissent notre prise de décision tout au long du cycle de vie du développement du modèle. Ce cycle de vie englobe toutes les étapes, de la collecte initiale des données et de l’entraînement à la mise en œuvre de mesures d’atténuation d’exécution après le déploiement.

  • Équité : prise en compte des impacts sur différents groupes de parties prenantes

  • Explicabilité : compréhension et évaluation des résultats du système

  • Confidentialité et sécurité : obtention, utilisation et protection appropriées des données et des modèles

  • Sécurité : empêcher les résultats préjudiciables et les utilisations abusives

  • Contrôlabilité : disposer de mécanismes permettant de surveiller et de diriger le comportement du système d’IA

  • Véracité et robustesse : obtenir des résultats corrects du système, même en cas d’entrées inattendues ou hostiles

  • Gouvernance : intégrer les bonnes pratiques dans la chaîne d’approvisionnement de l’IA, y compris les fournisseurs et les déployeurs

  • Transparence : permettre aux parties prenantes de faire des choix éclairés concernant leur engagement avec un système d’IA

Rubriques

Consignes

Les directives que nous utilisons pour orienter le développement de nos modèles comprennent, sans s’y limiter, la modération des contenus qui glorifient, facilitent ou encouragent les éléments suivants :

  • Participation à des activités dangereuses, automutilation ou utilisation de substances dangereuses.

  • Utilisation, abus ou commerce de substances contrôlées, de tabac ou d’alcool.

  • Violence physique ou sanglante.

  • Maltraitance d’enfants ou matériel pédopornographique.

  • Maltraitance ou trafic d’animaux.

  • Désinformation qui présente des individus ou des groupes comme responsables d’une tromperie délibérée, qui sape la crédibilité d’une institution auprès du grand public ou qui met en danger la santé ou les moyens de subsistance des personnes.

  • Logiciels malveillants, contenus malveillants ou tout contenu qui facilite la cybercriminalité.

  • Manque de respect, discrimination ou stéréotypes à l’égard d’un individu ou d’un groupe.

  • Insultes, blasphèmes, gestes obscènes, langage sexuellement explicite, pornographie, symboles haineux ou groupes haineux.

  • Nudité intégrale en dehors d’un contexte scientifique, éducatif ou de référence.

  • Préjugés à l’encontre d’un groupe sur la base d’une caractéristique démographique.

Recommandations

Pertinence d’utilisation : les résultats des modèles d’IA étant probabilistes, Amazon Nova peut produire des contenus inexacts ou inappropriés. Les clients doivent évaluer l’exactitude et la pertinence des résultats pour leur cas d’utilisation, en particulier s’ils sont directement présentés aux utilisateurs finaux. De plus, si Amazon Nova est utilisé dans des flux de travail clients qui produisent des décisions importantes, les clients doivent évaluer les risques potentiels de leur cas d’utilisation et mettre en œuvre une surveillance humaine appropriée, des tests et d’autres mesures de protection spécifiques au cas d’utilisation afin d’atténuer ces risques.

Optimisation des invites : en cas de modération par Amazon Nova, envisagez d’examiner les invites utilisées par rapport aux directives ci-dessus.Optimisations rapides : en cas de modération de la part d’Amazon Nova, pensez à examiner les instructions utilisées conformément aux directives ci-dessus. L’optimisation des invites afin de réduire le risque de générer des résultats indésirables est la stratégie recommandée pour produire les résultats attendus à l’aide des modèles Amazon Nova. Soyez attentif aux cas où les entrées sont contrôlées par les utilisateurs, y compris le contenu en pixels qui pourrait avoir un impact sur les performances du modèle. Veuillez consulter la section consacrée aux directives relatives aux invites dans ce guide d’utilisation pour plus de détails.

Confidentialité : Amazon Nova est disponible dans Amazon Bedrock. Amazon Bedrock est un service géré qui ne stocke ni n’examine les invites des clients ou les complétions des invites des clients, et les invites et les complétions ne sont jamais partagées entre les clients ou avec les partenaires Amazon Bedrock. AWS n’utilise pas les entrées ou les sorties générées par le service Amazon Bedrock pour entraîner les modèles Amazon Bedrock, y compris Amazon Nova. Pour plus d’informations, veuillez consulter la section 50.3 des conditions d’utilisation du service AWS et la FAQ sur la confidentialité des données AWS. Pour obtenir des informations spécifiques au service, veuillez consulter la section Confidentialité et sécurité de la documentation FAQ Amazon Bedrock. Amazon Nova prend des mesures pour éviter de compléter des invites qui pourraient être interprétées comme des demandes d’informations privées. Si un utilisateur craint que ses informations privées aient été incluses dans une complétion Amazon Nova, il doit nous contacter ici.

Sécurité : tous les modèles Amazon Bedrock, y compris Amazon Nova, sont dotés d’une sécurité d’entreprise qui permet aux clients de créer des applications d’IA générative qui prennent en charge les normes courantes de sécurité et de conformité des données, notamment le RGPD et l’HIPAA. Les clients peuvent utiliser AWS PrivateLink pour établir une connectivité privée entre Amazon Nova personnalisé et les réseaux sur site sans exposer le trafic des clients à Internet. Les données des clients sont toujours cryptées en transit et au repos, et les clients peuvent utiliser leurs propres clés pour effectuer le chiffrement des données, par exemple à l’aide du service AWS Key Management Service Key Management Service. Les clients peuvent utiliser AWS Identity and Access Management pour contrôler de manière sécurisée l’accès aux ressources Amazon Bedrock, y compris Amazon Nova personnalisé. En outre, Amazon Bedrock offre des capacités complètes de surveillance et de journalisation qui peuvent prendre en charge les exigences des clients en matière de gouvernance et d’audit. Par exemple, Amazon CloudWatch peut aider à suivre les mesures d’utilisation requises à des fins d’audit, et AWS CloudTrail peut aider à surveiller l’activité des API et à résoudre les problèmes, car Amazon Nova est intégré à d’autres systèmes AWS. Les clients peuvent également choisir de stocker les métadonnées, les invites et les complétions dans leur propre compartiment Amazon Simple Storage Service (Amazon S3) chiffré.

Propriété intellectuelle : AWS offre une couverture illimitée en matière d’indemnisation pour la propriété intellectuelle (PI) pour les résultats des modèles Amazon Nova disponibles pour tous (voir la section 50.10 des Conditions d’utilisation). Cela signifie que les clients sont protégés contre les réclamations de tiers alléguant une violation ou un détournement de la propriété intellectuelle (y compris les réclamations relatives aux droits d’auteur) par les résultats générés par ces modèles Amazon Nova. En outre, notre indemnisation standard en matière de propriété intellectuelle pour l’utilisation des services protège les clients contre les réclamations de tiers alléguant une violation de la propriété intellectuelle (y compris les réclamations relatives aux droits d’auteur) par les services (y compris les modèles Amazon Nova) et les données utilisées pour les entraîner.