Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Boîte à outils d'IA responsable et modération du contenu
Boîte à outils pour une IA responsable
Nova Forge fournit une boîte à outils d'IA responsable qui inclut des données de formation et d'évaluation pour aligner les modèles sur les directives d'Amazon Nova en matière d'IA responsable pendant le processus de formation, ainsi que des contrôles d'exécution pour modérer les réponses des modèles lors de l'inférence.
Données de formation — Des cas et des scénarios mettant l'accent sur les principes de l'IA responsable, les considérations de sécurité et le déploiement responsable des technologies sont disponibles pour le mixage des données afin d'aligner les modèles de manière responsable pendant la formation préalable continue.
Évaluations — Les évaluations testant la capacité du modèle à détecter et à rejeter le contenu inapproprié, préjudiciable ou incorrect sont disponibles comme tâche de référence pour déterminer le delta entre les performances du modèle de base et les performances du modèle personnalisé.
Contrôles d'exécution : par défaut, le moteur d'exécution d'Amazon Nova contrôle les réponses modérées du modèle lors de l'inférence. Pour modifier ces contrôles d'exécution, demandez les paramètres de modération de contenu personnalisables d'Amazon Nova en contactant un responsable de compte Amazon Web Services.
La sécurité est une responsabilité partagée entre Amazon Web Services et ses utilisateurs. La modification du modèle de base ou le recours à une formation préalable continue pour améliorer les performances dans un cas d'utilisation spécifique peuvent avoir un impact sur la sécurité, l'équité et d'autres propriétés du nouveau modèle. Une méthode d'adaptation robuste minimise les modifications apportées à la sécurité, à l'équité et aux autres protections intégrées aux modèles de base tout en minimisant l'impact sur les performances du modèle pour les tâches pour lesquelles le modèle n'a pas été personnalisé. End-to-endle test des applications sur des ensembles de données représentatifs des cas d'utilisation est nécessaire pour déterminer si les résultats des tests répondent aux attentes spécifiques en matière de sécurité, d'équité et d'autres propriétés, ainsi que d'efficacité globale. Pour plus d'informations, consultez le guide d'utilisation responsable de l'IA d'Amazon Web Services, la politique d'Amazon Web Services en matière d'intelligence artificielle responsable, la politique d'utilisation acceptable d'Amazon Web Services et les conditions de service d'Amazon Web Services.
Modération de contenu personnalisable
Les paramètres de modération de contenu (CCMS) personnalisables permettent d'ajuster les contrôles adaptés aux exigences de l'entreprise tout en conservant les contrôles essentiels et non configurables pour garantir une utilisation responsable de l'IA.
Ces paramètres permettent de générer du contenu via trois configurations disponibles :
Sécurité uniquement
Sécurité, contenu sensible et équité combinés
Toutes catégories confondues
Les quatre catégories de modération du contenu sont les suivantes :
-
Sécurité — Couvre les activités dangereuses, les armes et les substances contrôlées
-
Contenu sensible : inclut les grossièretés, la nudité et le harcèlement
-
Équité : tient compte des préjugés et des considérations culturelles
-
Sécurité : implique la cybercriminalité, les logiciels malveillants et le contenu malveillant
Quelle que soit la configuration de votre système CCMS, Amazon Nova applique des contrôles essentiels et non configurables pour garantir une utilisation responsable de l'IA, tels que des contrôles visant à éviter de nuire aux enfants et à préserver la confidentialité.
Lorsque vous utilisez CCMS, nous recommandons d'utiliser la formation préalable continue (CPT) et de partir d'un point de contrôle d'alignement antérieur au RAI (texte partiellement ou totalement préentraîné uniquement) plutôt que d'un point de contrôle de production entièrement aligné. Ces points de contrôle n'ont pas fait l'objet d'une formation en matière de sécurité ou n'ont pas été orientés vers des comportements spécifiques de la RAI, ce qui vous permet de les personnaliser plus efficacement en fonction de vos exigences de modération du contenu.
Astuce
Lorsque vous utilisez CCMS pour mélanger des données, pensez à ajuster le pourcentage de catégorie « rai » dans votre configuration nova_data afin de l'aligner sur vos exigences spécifiques de modération du contenu.
Disponibilité
Le CCMS est actuellement disponible pour les clients approuvés utilisant :
Modèles Amazon Nova Lite 1.0 et Pro 1.0
Inférence à la demande sur Amazon Bedrock
La région us-east-1 (Virginie du Nord)
Pour activer le CCMS pour vos modèles Forge, contactez un responsable de compte Amazon Web Services.
