View a markdown version of this page

GuardDuty Proteção de IA - Amazon GuardDuty
Como funciona a proteção de IAPreços da proteção de IADetecções adicionais de ameaças para cargas de trabalho de IA

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

GuardDuty Proteção de IA

GuardDuty O AI Protection estende a detecção de GuardDuty ameaças da Amazon às cargas de trabalho de IA incorporadas AWS. Quando você ativa a Proteção de IA, GuardDuty analisa eventos de AWS CloudTrail dados do Amazon Bedrock, Amazon Bedrock AgentCore e Amazon SageMaker AI, junto com AWS CloudTrail eventos de gerenciamento. GuardDuty usa esses dados para detectar atividades potencialmente suspeitas que tenham como alvo os modelos básicos e os aplicativos que os invocam. Quando GuardDuty identifica uma ameaça potencial, ela gera uma ou maisTipos de descoberta do AI Protection.

Quando você ativa a Proteção de IA, GuardDuty pode detectar os seguintes tipos de ameaças:

  • Invocações anômalas dos modelos Amazon Bedrock ou SageMaker Amazon AI que se desviam da linha de base estabelecida para uma identidade ou conta, como invocações de um endereço IP incomum, uma API incomum ou um modelo incomum.

  • Ataques de coleta de custos, nos quais um agente de ameaça envia informações computacionalmente caras para um modelo Amazon Bedrock ou Amazon SageMaker AI para aumentar o consumo de tokens e os custos operacionais da conta.

  • Tentativas de injeção direta imediata, nas quais um agente da ameaça cria uma solicitação maliciosa para fazer com que um modelo básico ignore suas instruções originais. Essa detecção requer o Amazon Bedrock Guardrails e se aplica somente às cargas de trabalho do Amazon Bedrock.

nota

Os tipos de descoberta que GuardDuty podem ser gerados em e Região da AWS dependem de quais serviços de IA estão disponíveis nessa região:

Para ver a lista de regiões em que cada tipo de descoberta é suportado, consulteRegion-specific disponibilidade de recursos.

dica

Para obter o máximo valor de segurança da proteção de IA, aplique o Amazon Bedrock Guardrails para ataques imediatos em todas as contas da sua organização. AWS Use as políticas AWS Organizations do Amazon Bedrock para gerenciar essas configurações de guardrail de forma centralizada. Isso permite proteção uniforme em todas as contas com controle e gerenciamento centralizados. Quando uma barreira de proteção de ataque imediata é aplicada, GuardDuty cria resultados imediatos de injeção. Para obter mais informações, consulte Impact:IAMUser/PromptInjection.Direct.

Para detectar ameaças às suas cargas de trabalho de IA, você deve ativar a Proteção de IA em sua GuardDuty conta. Para obter informações sobre como ativar a Proteção de IA, consulte Habilitando a proteção de IA em ambientes com várias contas para ambientes com várias contas ou. Ativando a proteção de IA para uma conta independente

Tópicos

Como funciona a proteção de IA

Quando você ativa a Proteção de IA para uma conta ou em toda a sua organização, começa GuardDuty automaticamente a coletar eventos de AWS CloudTrail dados dos serviços de IA nas contas monitoradas. Você não precisa criar uma trilha, ativar o registro de eventos de dados ou fazer alterações em seus aplicativos de IA.

Para coletar os eventos de dados, GuardDuty cria um canal AWS CloudTrail vinculado ao serviço em cada conta monitorada. O canal vinculado ao serviço transmite eventos de AWS CloudTrail dados para Amazon Bedrock, Amazon AgentCore Bedrock e SageMaker Amazon AI, além de recursos de IA GuardDuty relacionados para análise. Porque GuardDuty cria e gerencia esse canal:

  • GuardDuty define as configurações de eventos de dados do canal, e o proprietário da conta não pode modificá-las. Isso significa que a detecção de ameaças não depende da configuração ou manutenção de uma trilha pelo proprietário da conta.

  • Cada conta monitorada pode confirmar que o canal está ativo no CloudTrail console (em Configurações, Service-linkedcanais) ou chamando a operação da AWS CloudTrail ListChannelsAPI.

GuardDuty usa dois métodos de detecção para gerar descobertas do AI Protection, dependendo do tipo de descoberta:

  • Para os tipos Impact:IAMUser/AnomalousModelInvocation e de Impact:IAMUser/CostHarvesting descoberta, GuardDuty usa um modelo de aprendizado de máquina (ML) de detecção de anomalias para analisar os eventos coletados e estabelecer uma linha de base da atividade normal de invocação do modelo para cada identidade do IAM e. Conta da AWS GuardDuty gera uma descoberta quando detecta uma atividade que se desvia significativamente dessa linha de base.

  • Para o tipo de Impact:IAMUser/PromptInjection.Direct descoberta, GuardDuty gera uma descoberta quando o Amazon Bedrock Guardrails avalia uma solicitação e detecta um ataque imediato, com base no evento de dados resultante. AWS CloudTrail

Para obter mais informações sobre eventos de AWS CloudTrail dados, consulte Registrar eventos de dados no Guia AWS CloudTrail do usuário.

Preços da proteção de IA

Quando você ativa o GuardDuty AI Protection, GuardDuty cobra pelo volume de eventos de AWS CloudTrail dados que ele analisa, medido em GB. GuardDuty cria o canal vinculado ao serviço sem nenhum CloudTrail custo adicional para você. O custo da coleta desses eventos de dados está incluído no custo de uso do AI Protection. Você também continua incorrendo em custos de uso padrão GuardDuty e de quaisquer outros planos de proteção habilitados. Para ver os preços e exemplos atuais, consulte os GuardDuty preços da Amazon.

Detecções adicionais de ameaças para cargas de trabalho de IA

Além do plano de proteção de IA, os planos Amazon GuardDuty Foundational e Lambda Protection oferecem detecções para ajudar você a proteger e detectar ameaças às cargas de trabalho de IA incorporadas. AWS

O plano GuardDuty básico monitora eventos AWS CloudTrail de gerenciamento para detectar atividades suspeitas e maliciosas em cargas de trabalho de IA criadas usando AWS serviços, incluindo Amazon Bedrock e Amazon AI. SageMaker Por exemplo, GuardDuty pode identificar atividades como:

  • Remoção incomum da barreira de proteção do Amazon Bedrock

  • Uma mudança em uma fonte de dados de treinamento de modelo que pode potencialmente levar a um ataque de envenenamento de dados

  • Registro desativado para invocações do modelo Amazon Bedrock que podem indicar tentativas de evitar a detecção

  • Instância incomum de notebook ou criação de trabalho de treinamento na Amazon SageMaker AI

  • Credenciais extraídas do Amazon Elastic Compute Cloud que podem ter sido usadas para chamar APIs no Amazon Bedrock, Amazon SageMaker AI ou cargas de trabalho de IA autogerenciadas em instâncias do Amazon EC2, clusters do Amazon EKS ou tarefas do Amazon ECS.

GuardDuty O Lambda Protection pode ajudar a detectar possíveis ameaças relacionadas aos agentes do Amazon Bedrock. Isso pode incluir atividades de rede suspeitas, como criptomineração, e comunicação com servidores maliciosos de comando e controle. Essas ameaças podem ser causadas por um ataque à cadeia de suprimentos ou por um aviso complexo.