View a markdown version of this page

GuardDuty Protección de IA - Amazon GuardDuty
Cómo funciona la protección contra la IAPrecios de la protección de la IADetecciones de amenazas adicionales para las cargas de trabajo de IA

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

GuardDuty Protección de IA

GuardDuty AI Protection extiende la detección de GuardDuty amenazas de Amazon a las cargas de trabajo de IA integradas. AWS Cuando habilita la protección de IA, GuardDuty analiza AWS CloudTrail los eventos de datos de Amazon Bedrock, Amazon Bedrock y Amazon SageMaker AI AgentCore, junto con los eventos AWS CloudTrail de administración. GuardDuty utiliza estos datos para detectar actividades potencialmente sospechosas dirigidas a los modelos básicos y a las aplicaciones que los utilizan. Cuando GuardDuty identifica una amenaza potencial, genera una o másTipos de búsqueda de protección de IA.

Al activar la protección contra la IA, GuardDuty puede detectar los siguientes tipos de amenazas:

  • Invocaciones anómalas de modelos de Amazon Bedrock o Amazon SageMaker AI que se desvían de la línea base establecida para una identidad o una cuenta, como las invocaciones desde una dirección IP inusual, una API inusual o un modelo inusual.

  • Ataques de recolección de costos, en los que un actor de amenazas envía datos computacionalmente costosos a un modelo de Amazon Bedrock o Amazon SageMaker AI para inflar el consumo de fichas y los costos operativos de la cuenta.

  • Intentos de inyección rápida directa, en los que un agente de amenazas crea un mensaje malicioso para hacer que un modelo básico ignore sus instrucciones originales. Esta detección requiere Amazon Bedrock Guardrails y solo se aplica a las cargas de trabajo de Amazon Bedrock.

nota

Los tipos de hallazgos que GuardDuty se pueden generar Región de AWS dependen de los servicios de IA disponibles en esa región:

Para ver la lista de regiones en las que se admite cada tipo de búsqueda, consulte. Region-specific disponibilidad de funciones

sugerencia

Para obtener el máximo valor de seguridad de la protección de IA, aplique Amazon Bedrock Guardrails para ataques rápidos en todas las cuentas de su organización. AWS Utilice las políticas de AWS Organizations Amazon Bedrock para gestionar estos ajustes de barandillas de forma centralizada. Esto permite una protección uniforme en todas las cuentas con un control y una administración centralizados. Cuando se aplica una barrera de protección contra un ataque rápido, se detectan GuardDuty rápidamente las inyecciones. Para obtener más información, consulte Impact:IAMUser/PromptInjection.Direct.

Para detectar amenazas a sus cargas de trabajo de IA, debe habilitar la protección de IA en su cuenta. GuardDuty Para obtener información sobre cómo habilitar la protección contra la IA, consulte Habilitar la protección de la IA en entornos con varias cuentas para entornos con varias cuentas o. Habilitar la protección de IA para una cuenta independiente

Temas

Cómo funciona la protección contra la IA

Al activar la protección contra la inteligencia artificial en una cuenta o en toda la organización, comienza GuardDuty automáticamente a recopilar eventos de AWS CloudTrail datos de los servicios de IA en las cuentas monitoreadas. No necesita crear un registro, habilitar el registro de eventos de datos ni realizar ningún cambio en sus aplicaciones de IA.

Para recopilar los eventos de datos, GuardDuty crea un canal AWS CloudTrail vinculado al servicio en cada cuenta monitoreada. El canal vinculado al servicio transmite eventos de AWS CloudTrail datos para Amazon Bedrock, Amazon Bedrock y Amazon AI, AgentCore y los recursos de SageMaker IA relacionados para su análisis. GuardDuty Porque GuardDuty crea y administra este canal:

  • GuardDuty configura los ajustes de eventos de datos del canal y el propietario de la cuenta no puede modificarlos. Esto significa que la detección de amenazas no depende de que el propietario de la cuenta configure o mantenga un registro.

  • Cada cuenta monitoreada puede confirmar que el canal está activo en la CloudTrail consola (en Configuración, Service-linkedcanales) o llamando a la operación de la AWS CloudTrail ListChannelsAPI.

GuardDuty utiliza dos métodos de detección para generar resultados sobre la protección de la IA, según el tipo de hallazgo:

  • Para los Impact:IAMUser/AnomalousModelInvocation tipos de Impact:IAMUser/CostHarvesting búsqueda, GuardDuty utiliza un modelo de aprendizaje automático (ML) con detección de anomalías para analizar los eventos recopilados y establecer una línea base de la actividad normal de invocación del modelo para cada identidad de IAM y. Cuenta de AWS GuardDuty genera un resultado cuando detecta una actividad que se desvía significativamente de esta línea base.

  • Para el tipo de Impact:IAMUser/PromptInjection.Direct búsqueda, GuardDuty genera una búsqueda cuando Amazon Bedrock Guardrails evalúa una solicitud y detecta un ataque inmediato, en función del evento de datos resultante. AWS CloudTrail

Para obtener más información sobre AWS CloudTrail los eventos de datos, consulte Registrar eventos de datos en la Guía del usuario.AWS CloudTrail

Precios de la protección de la IA

Al activar GuardDuty AI Protection, se GuardDuty cobra por el volumen de eventos de AWS CloudTrail datos que analiza, medido en GB. GuardDuty crea el canal vinculado al servicio sin CloudTrail coste adicional para usted. El coste de recopilar estos eventos de datos está incluido en el coste de uso de la protección de la IA. Además, seguirás incurriendo en costes de uso estándar GuardDuty y de cualquier otro plan de protección habilitado. Para ver los precios actuales y ejemplos, consulta los GuardDuty precios de Amazon.

Detecciones de amenazas adicionales para las cargas de trabajo de IA

Además del plan de protección de la IA, los planes Amazon GuardDuty Foundational y Lambda Protection ofrecen detecciones para ayudarlo a proteger y detectar las amenazas a las cargas de trabajo de IA integradas. AWS

El plan GuardDuty básico monitorea los eventos AWS CloudTrail de administración para detectar actividades sospechosas y maliciosas en las cargas de trabajo de IA creadas mediante el uso de AWS servicios, incluidos Amazon Bedrock y Amazon AI. SageMaker Por ejemplo, GuardDuty puede identificar actividades como:

  • Supresión inusual de las barreras de protección de seguridad de Amazon Bedrock

  • Un cambio en un modelo de fuente de datos de entrenamiento que podría provocar un ataque de intoxicación de datos

  • Se deshabilitó el registro para las invocaciones del modelo Amazon Bedrock que podrían indicar intentos de evadir la detección

  • Instancia inusual de cuaderno o creación de empleo de formación en Amazon SageMaker AI

  • Credenciales exfiltradas de Amazon Elastic Compute Cloud que podrían haberse utilizado para llamar a las API de Amazon Bedrock, Amazon SageMaker AI o a cargas de trabajo de IA autogestionadas en instancias de Amazon EC2, clústeres de Amazon EKS o tareas de Amazon ECS.

GuardDuty Lambda Protection puede ayudar a detectar posibles amenazas relacionadas con los agentes de Amazon Bedrock. Esto podría incluir actividades de red sospechosas, como la minería de criptomonedas, y la comunicación con servidores de comando y control maliciosos. Estas amenazas pueden estar provocadas por un ataque a la cadena de suministro o por instrucciones complejas.