Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
GuardDuty Protection de l'IA
GuardDuty AI Protection étend la détection des GuardDuty menaces Amazon aux charges de travail basées sur AWS l'IA. Lorsque vous activez la protection par IA, elle GuardDuty analyse les événements liés aux AWS CloudTrail données d'Amazon Bedrock, Amazon Bedrock AgentCore et Amazon SageMaker AI, ainsi que les événements de AWS CloudTrail gestion. GuardDuty utilise ces données pour détecter les activités potentiellement suspectes qui ciblent les modèles de base et les applications qui les invoquent. Lorsqu'il GuardDuty identifie une menace potentielle, il en génère une ou plusieursTypes de détection de la protection par l'IA.
Lorsque vous activez la protection par IA, vous GuardDuty pouvez détecter les types de menaces suivants :
-
Invocations anormales des modèles Amazon Bedrock ou SageMaker Amazon AI qui s'écartent de la base de référence établie pour une identité ou un compte, telles que les invocations provenant d'une adresse IP inhabituelle, d'une API inhabituelle ou d'un modèle inhabituel.
-
Attaques de collecte des coûts, dans lesquelles un acteur malveillant envoie des données informatiques coûteuses à un modèle Amazon Bedrock ou Amazon SageMaker AI pour augmenter la consommation de jetons et les coûts d'exploitation du compte.
-
Tentatives d'injection directe, dans lesquelles un acteur malveillant crée une invite malveillante pour obliger un modèle de base à ignorer ses instructions d'origine. Cette détection nécessite Amazon Bedrock Guardrails et ne s'applique qu'aux charges de travail Amazon Bedrock.
Note
Les types de recherche qui GuardDuty peuvent être générés dans et Région AWS dépendent des services d'IA disponibles dans cette région :
-
Les types Impact:IAMUser/AnomalousModelInvocation de Impact:IAMUser/CostHarvesting recherche et de recherche nécessitent Amazon Bedrock ou Amazon SageMaker AI. Dans les régions où Amazon Bedrock n'est pas disponible, GuardDuty génère ces types de recherche uniquement à partir des invocations du modèle Amazon SageMaker AI.
-
Le type de Impact:IAMUser/PromptInjection.Direct recherche nécessite Amazon Bedrock Guardrails. Il n'est pas disponible dans les régions où Amazon Bedrock Guardrails n'est pas pris en charge.
Pour la liste des régions dans lesquelles chaque type de recherche est pris en charge, voirRegion-specific disponibilité des fonctionnalités.
Astuce
Pour tirer le meilleur parti de la protection contre l'intelligence artificielle, utilisez Amazon Bedrock Guardrails pour lancer des attaques rapides sur tous les comptes de votre organisation. AWS Utilisez les politiques AWS Organizations d'Amazon Bedrock pour gérer ces paramètres de garde-corps de manière centralisée. Cela permet une protection uniforme sur tous les comptes grâce à un contrôle et une gestion centralisés. Lorsqu'un garde-corps d'attaque rapide est appliqué, GuardDuty cela crée des résultats d'injection rapides. Pour de plus amples informations, veuillez consulter Impact:IAMUser/PromptInjection.Direct.
Pour détecter les menaces qui pèsent sur vos charges de travail basées sur l'IA, vous devez activer la protection par IA dans votre GuardDuty compte. Pour plus d'informations sur l'activation de la protection par IA, voir Activation de la protection par l'IA dans les environnements à comptes multiples pour les environnements à comptes multiples ou. Activation de la protection par l'IA pour un compte autonome
Rubriques
Comment fonctionne la protection par IA
Lorsque vous activez la protection par IA pour un compte ou pour l'ensemble de votre organisation, la collecte d'événements de AWS CloudTrail données à partir des services d'IA dans les comptes surveillés commence GuardDuty automatiquement. Vous n'avez pas besoin de créer une trace, d'activer l'enregistrement des événements de données ou d'apporter des modifications à vos applications d'IA.
Pour collecter les données relatives aux événements, GuardDuty crée un canal AWS CloudTrail lié au service dans chaque compte surveillé. Le canal lié au service diffuse les événements de AWS CloudTrail données pour Amazon Bedrock, Amazon Bedrock AgentCore et Amazon SageMaker AI, ainsi que les ressources d'IA associées à des fins d'analyse. GuardDuty Parce que GuardDuty crée et gère ce canal :
-
GuardDuty configure les paramètres des événements de données de la chaîne, et le propriétaire du compte ne peut pas les modifier. Cela signifie que la détection des menaces ne dépend pas de la configuration ou de la gestion d'une trace par le propriétaire du compte.
-
Chaque compte surveillé peut confirmer que le canal est actif dans la CloudTrail console (sous Paramètres, Service-linkedcanaux) ou en appelant l'opération AWS CloudTrail ListChannelsAPI.
GuardDuty utilise deux méthodes de détection pour générer des résultats de protection contre l'IA, en fonction du type de détection :
-
Pour les types Impact:IAMUser/AnomalousModelInvocation et la Impact:IAMUser/CostHarvesting recherche, GuardDuty utilise un modèle d'apprentissage automatique (ML) de détection d'anomalies pour analyser les événements collectés et établir une base de référence pour l'activité d'invocation normale du modèle pour chaque identité IAM et. Compte AWS GuardDuty génère un résultat lorsqu'il détecte une activité qui s'écarte de manière significative de cette base de référence.
-
Pour le type de Impact:IAMUser/PromptInjection.Direct recherche, GuardDuty génère une constatation lorsqu'Amazon Bedrock Guardrails évalue une invite et détecte une attaque rapide, en fonction de l'événement de données qui en résulte. AWS CloudTrail
Pour plus d'informations sur les événements AWS CloudTrail liés aux données, consultez la section Enregistrement des événements liés aux données dans le Guide de AWS CloudTrail l'utilisateur.
Tarification de la protection par IA
Lorsque vous activez GuardDuty AI Protection, les GuardDuty frais sont calculés en fonction du volume d'événements de AWS CloudTrail données analysés, mesuré en Go. GuardDuty crée le canal lié au service sans CloudTrail frais supplémentaires pour vous. Le coût de la collecte de ces événements de données est inclus dans le coût d'utilisation de AI Protection. Vous continuez également à payer des frais d'utilisation standard pour GuardDuty tout autre plan de protection activé. Pour consulter les tarifs actuels et des exemples, consultez GuardDuty les tarifs Amazon
Détections de menaces supplémentaires pour les charges de travail liées à l'IA
Outre le plan de protection de l'IA, les plans Amazon GuardDuty Foundational et Lambda Protection proposent des détections pour vous aider à sécuriser et à détecter les menaces qui pèsent sur les charges de travail basées sur l'IA. AWS
Le plan de GuardDuty base surveille les événements AWS CloudTrail de gestion afin de détecter les activités suspectes et malveillantes dans les charges de travail d'IA créées à l'aide de AWS services tels qu'Amazon Bedrock et Amazon AI. SageMaker Par exemple, GuardDuty peut identifier des activités telles que :
-
Suppression inhabituelle des rambardes de sécurité Amazon Bedrock
-
Modification d'une source de données d'entraînement du modèle susceptible de provoquer une attaque d'empoisonnement des données
-
Journalisation désactivée pour les invocations du modèle Amazon Bedrock susceptibles d'indiquer des tentatives d'échapper à la détection
-
Instance de bloc-notes inhabituelle ou création de postes de formation dans Amazon SageMaker AI
-
Informations d'identification Amazon Elastic Compute Cloud exfiltrées qui auraient pu être utilisées pour appeler des API dans Amazon Bedrock, Amazon SageMaker AI ou des charges de travail d'IA autogérées sur des instances Amazon EC2, des clusters Amazon EKS ou des tâches Amazon ECS.
GuardDuty Lambda Protection peut aider à détecter les menaces potentielles liées aux agents Amazon Bedrock. Cela peut inclure des activités réseau suspectes telles que le minage de cryptomonnaies et des communications avec des serveurs de commande et de contrôle malveillants. Ces menaces peuvent être causées par une attaque de la chaîne d'approvisionnement ou par des incitations complexes.
