Proteger las cargas de trabajo de IA con GuardDuty
La detección de amenazas básica de Amazon GuardDuty y Lambda Protection ayudan a aumentar la seguridad y a detectar amenazas para las cargas de trabajo de IA creadas en AWS.
La detección de amenazas básica de GuardDuty monitorea los eventos de administración de AWS CloudTrail para detectar actividades sospechosas y maliciosas en cargas de trabajo de IA generativa creadas mediante el uso de servicios de AWS, incluidos Amazon Bedrock y Amazon SageMaker AI. Por ejemplo, GuardDuty puede identificar actividades como:
-
Supresión inusual de las barreras de protección de seguridad de Amazon Bedrock
-
Cambio del origen de los datos de entrenamiento del modelo que puede provocar potencialmente un ataque de envenenamiento de datos.
-
Invocación sospechosa del modelo de Amazon Bedrock
-
Creación inusual de una instancia de bloc de notas o de un trabajo de entrenamiento en SageMaker AI
-
Credenciales de Amazon Elastic Compute Cloud exfiltradas que posiblemente se hayan utilizado para llamar a API en Amazon Bedrock, Amazon SageMaker AI o cargas de trabajo de IA autoadministradas en instancias de EC2, clústeres de EKS o tareas de ECS.
La protección de Lambda de GuardDuty puede ayudar a detectar amenazas potenciales relacionadas con los agentes de Amazon Bedrock. Esto puede incluir actividad sospechosa en la red, como la minería de criptomonedas, y la comunicación con servidores de mando y control maliciosos que pueden ser provocados por un ataque a la cadena de suministro o peticiones complejas.
En el siguiente video se puede ver cómo serían los resultados asociados.
