Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
# Couche 3 : sécurité et gouvernance pour les plateformes d'IA générative sur AWS
Un cadre de sécurité et de gouvernance robuste est essentiel pour étendre l'adoption de l'IA générative au sein de l'entreprise. Nous recommandons une approche centrée sur la plateforme. Cette approche garantit que toutes les applications génératives basées sur l'IA, quelle que soit l'équipe qui les développe, bénéficient d'un ensemble de sécurité par défaut et de garde-fous responsables en matière d'IA.
**Topics**
+ [Disciplines de sécurité fondamentales](#security-disciplines)
+ [Contrôles de sécurité recommandés](#security-recommended-controls)
+ [Matrice de définition du périmètre de sécurité](#security-scoping-matrix)
+ [Recommandations de mise en œuvre](#security-implementation-recs)
## Disciplines de sécurité fondamentales
Le [top 10 de l'OWASP pour les applications LLM décrit des](https://owasp.org/www-project-top-10-for-large-language-model-applications/) considérations de sécurité supplémentaires pour les charges de travail génératives liées à l'IA. Cependant, de nombreuses disciplines de sécurité traditionnelles restent cruciales. Les considérations de sécurité relatives aux charges de travail génératives liées à l'IA sont les suivantes :
+ **Gouvernance et conformité** — Créez les politiques, les procédures et les rapports nécessaires pour renforcer l'entreprise tout en minimisant les risques. Pour les applications d'IA générative, cela inclut des directives pour la sélection des modèles, l'utilisation des données et la validation des résultats.
+ **Juridique et confidentialité** — Respectez les exigences réglementaires, légales et de confidentialité spécifiques relatives à l'utilisation ou à la création de solutions d'IA générative. Organisations doivent examiner attentivement les lois sur la protection des données, les droits de propriété intellectuelle et les réglementations spécifiques au secteur lors de la mise en œuvre de solutions d'IA générative.
+ **Gestion des risques** — Identifiez les menaces potentielles qui pèsent sur les solutions d'IA générative et les mesures d'atténuation recommandées. Cela inclut la gestion des risques tels que l'empoisonnement des données, les attaques par injection rapide ou les biais involontaires dans les résultats des modèles.
+ **Contrôles** — Mettez en œuvre des contrôles de sécurité qui atténuent les risques. Pour les applications d'IA générative, cela inclut le nettoyage des entrées, le filtrage des sorties et les contrôles d'accès pour l'utilisation des modèles. Pour plus d'informations, consultez la section Contrôles de sécurité recommandés dans ce guide.
+ **Résilience** — Concevez des solutions d'IA génératives pour maintenir la disponibilité et respecter les accords de niveau de service (SLA) des entreprises. Cela inclut des considérations relatives à la redondance du modèle, aux mécanismes de repli et à l'évolutivité dans des conditions de charge variables.
## Contrôles de sécurité recommandés
Defense-in-depth est une approche de cybersécurité qui utilise plusieurs niveaux de contrôles de sécurité pour protéger un système, un réseau ou une charge de travail. Les différentes couches permettent de détecter et de stopper les attaques en cas de défaillance d'une couche. Nous recommandons au minimum les contrôles suivants pour adopter une approche de défense en profondeur pour les charges de travail génératives liées à l'IA et leurs environnements :
+ **Gestion des identités et des accès** Services AWS, y compris Amazon Bedrock et Amazon SageMaker AI, s'intègrent nativement à Gestion des identités et des accès AWS (IAM). L'IAM permet de contrôler de manière précise qui peut effectuer des actions sur vos ressources Comptes AWS et sur vos ressources, par exemple en souscrivant à des modèles de base ou en exécutant des inférences sur un modèle. Nous vous recommandons de créer plusieurs [rôles IAM avec des](https://docs.aws.amazon.com/IAM/latest/UserGuide/id_roles.html) autorisations détaillées. Par exemple, vous pouvez créer les rôles suivants :
+ *Rôle d'évaluation* : les utilisateurs dotés de ce rôle peuvent évaluer les modèles de base dans un environnement sandbox à mesure que de nouveaux modèles sont ajoutés à Amazon Bedrock. Ces utilisateurs doivent se coordonner avec vos équipes juridiques et d'approvisionnement avant d'activer des abonnements permettant un accès plus large.
+ *Rôle d'accès général* : les utilisateurs dotés de ce rôle peuvent accéder aux modèles de base pour une utilisation standard.
+ *Fine-tuned rôle d'accès au modèle* : les utilisateurs dotés de ce rôle peuvent accéder à des modèles affinés avec vos données propriétaires.
+ *Rôle d'accès aux modèles spécialisé* : les utilisateurs dotés de ce rôle peuvent accéder à des modèles de pointe et coûteux pour des cas d'utilisation spécifiques.
+ **Accès au réseau privé via AWS PrivateLink : à** utiliser [AWS PrivateLink](https://docs.aws.amazon.com/vpc/latest/privatelink/what-is-privatelink.html)avec Amazon Bedrock et Amazon SageMaker AI pour invoquer des modèles depuis votre VPC et votre réseau sur site. Cela permet de conserver les données sensibles au sein de votre réseau privé.
+ **Gardes pour Amazon Bedrock** : implémentez des barrières de [sécurité pour gérer](https://docs.aws.amazon.com/bedrock/latest/userguide/agents-guardrail.html) et filtrer les demandes et les réponses provenant des modèles de base. Cela ajoute un niveau de contrôle supplémentaire.
+ **Stockage sécurisé des journaux d'invocation** : pour vous assurer que l'utilisation répond à vos besoins de conformité, vous pouvez stocker toutes les demandes et réponses dans un compartiment Amazon S3 ou dans Amazon CloudWatch Logs. Pour plus d'informations, consultez la section [Surveiller l'invocation du modèle à l'aide de CloudWatch Logs et d'Amazon S3](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html) dans la documentation Amazon Bedrock.
+ **Auditez et suivez l'accès aux modèles de base** — Utilisez Amazon CloudWatch, un service qui enregistre les actions entreprises par un utilisateur, un rôle ou un Service AWS. CloudTrail capture tous les appels d'API pour Amazon Bedrock sous forme d'événements. Pour plus d'informations, consultez les sections [Surveiller les appels d'API Amazon Bedrock à l'aide CloudTrail et Journalisation des appels](https://docs.aws.amazon.com/bedrock/latest/userguide/logging-using-cloudtrail.html) [d'API Amazon SageMaker AI à l'aide AWS CloudTrail](https://docs.aws.amazon.com/sagemaker/latest/dg/logging-using-cloudtrail.html) de.
+ **Suivez le top 10 de l'OWASP en matière de sécurité LLM** : respectez les 10 principaux risques de sécurité de l'OWASP pour les applications LLM et assurez-vous d'avoir clairement identifié les stratégies et les contrôles de sécurité pour concevoir des défenses à plusieurs niveaux. Pour plus d'informations, consultez [Architect Defense-In-Depth Security pour les applications d'IA générative à l'aide du Top 10 de l'OWASP pour les LLM](https://aws.amazon.com/blogs/machine-learning/architect-defense-in-depth-security-for-generative-ai-applications-using-the-owasp-top-10-for-llms/) (article de blog).AWS
## Matrice de définition du périmètre de sécurité
Les contrôles de sécurité spécifiques dont vous avez besoin dépendent de la nature de votre application d'IA générative. La [matrice de cadrage de la sécurité de l'IA AWS générative](https://aws.amazon.com/blogs/security/securing-generative-ai-an-introduction-to-the-generative-ai-security-scoping-matrix/) (article de AWS blog) fournit un cadre permettant de comprendre les exigences de sécurité en fonction de l'étendue de votre déploiement. L'image suivante montre la matrice de cadrage de la sécurité de l'IA générative, qui est un modèle mental permettant de classer les cas d'utilisation.
La matrice aide les organisations à identifier les contrôles de sécurité appropriés en fonction de facteurs tels que :
+ Que l'application soit destinée aux consommateurs ou interne à l'entreprise
+ L'utilisation de modèles préentraînés par rapport à un réglage précis
+ La sensibilité des données traitées
+ La criticité de l'application pour les opérations commerciales
## Recommandations de mise en œuvre
Pour mettre en œuvre un cadre complet de sécurité et de gouvernance pour vos charges de travail d'IA générative, tenez compte des recommandations suivantes :
+ Établissez des politiques et des procédures claires pour l'accès aux modèles et leur utilisation.
+ Mettez en œuvre des contrôles de sécurité à plusieurs niveaux, tels que le réseau, les applications et les couches de données.
+ Réalisez régulièrement des évaluations de sécurité et des audits de conformité.
+ Conservez une documentation détaillée sur les mesures et les contrôles de sécurité.
+ Offrez une formation de sensibilisation à la sécurité aux équipes qui travaillent avec l'IA générative.
+ Passez régulièrement en revue et mettez à jour les contrôles de sécurité à mesure que les menaces évoluent.