As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Camada 3: Segurança e governança para plataformas generativas de IA em AWS
Uma estrutura robusta de segurança e governança é essencial para escalar a adoção generativa da IA em toda a empresa. Recomendamos uma abordagem centrada na plataforma. Essa abordagem garante que todos os aplicativos generativos baseados em IA, independentemente da equipe que os cria, se beneficiem de um conjunto padrão de proteções de segurança e IA responsável.
Esta seção contém os seguintes tópicos:
Principais disciplinas de segurança
Os 10 principais aplicativos do OWASP para LLM
-
Governança e conformidade — Crie as políticas, os procedimentos e os relatórios necessários para capacitar os negócios e minimizar os riscos. Para aplicativos generativos de IA, isso engloba diretrizes para seleção de modelos, uso de dados e validação de resultados.
-
Legal e privacidade — atenda aos requisitos regulamentares, legais e de privacidade específicos para usar ou criar soluções generativas de IA. As organizações devem considerar cuidadosamente as leis de proteção de dados, os direitos de propriedade intelectual e os regulamentos específicos do setor ao implementar soluções generativas de IA.
-
Gerenciamento de riscos — identifique possíveis ameaças às soluções generativas de IA e às mitigações recomendadas. Isso inclui abordar riscos como envenenamento de dados, ataques de injeção imediata ou vieses não intencionais nas saídas do modelo.
-
Controles — Implemente controles de segurança que reduzam os riscos. Para aplicativos generativos de IA, isso inclui higienização de entrada, filtragem de saída e controles de acesso para uso do modelo. Para obter mais informações, consulte Controles de segurança recomendados neste guia.
-
Resiliência — Arquitete soluções de IA generativas para manter a disponibilidade e atender aos contratos de nível de serviço (SLAs) comerciais. Isso inclui considerações sobre redundância do modelo, mecanismos de fallback e escalabilidade sob condições de carga variáveis.
Controles de segurança recomendados
Defense-in-depth é uma abordagem de cibersegurança que usa camadas de controles de segurança para proteger um sistema, uma rede ou uma carga de trabalho. Camadas diferentes ajudam a detectar e interromper ataques se uma delas falhar. No mínimo, recomendamos os seguintes controles para adotar uma abordagem de defesa aprofundada para cargas de trabalho generativas de IA e seus ambientes:
-
Gerenciamento de identidade e acesso — Serviços da AWS incluindo o Amazon Bedrock e o Amazon SageMaker AI, se integram de forma nativa com o AWS Identity and Access Management (IAM). O IAM fornece controle granular sobre quem pode realizar ações em você Contas da AWS e em seus recursos, como assinar modelos básicos ou executar inferências em um modelo. Recomendamos que você crie várias funções do IAM com permissões granulares. Por exemplo, você pode criar as seguintes funções:
-
Função de avaliação — Os usuários com essa função podem avaliar modelos básicos em um ambiente sandbox à medida que novos modelos são adicionados ao Amazon Bedrock. Esses usuários devem se coordenar com suas equipes jurídicas e de compras antes de ativar assinaturas que permitam um acesso mais amplo.
-
Função de acesso geral — Os usuários com essa função podem acessar modelos básicos para uso padrão.
-
Fine-tuned função de acesso ao modelo — Os usuários com essa função podem acessar modelos que são ajustados com seus dados proprietários.
-
Função especializada de acesso a modelos — Os usuários com essa função podem acessar modelos de ponta e de alto custo para casos de uso específicos.
-
-
Acesso à rede privada por meio de AWS PrivateLink— Use AWS PrivateLinkcom o Amazon Bedrock e o Amazon SageMaker AI para invocar modelos de dentro da sua VPC e da rede local. Isso ajuda a manter dados confidenciais em sua rede privada.
-
Guardrails para Amazon Bedrock — Implemente grades de proteção para gerenciar e filtrar as solicitações e respostas de e para os modelos básicos. Isso adiciona uma camada adicional de controle.
-
Armazene registros de invocação com segurança — Para garantir que o uso atenda às suas necessidades de conformidade, você pode armazenar todas as solicitações e respostas em um bucket do Amazon S3 ou no Amazon Logs. CloudWatch Para obter mais informações, consulte Monitore a invocação do modelo usando CloudWatch Logs e Amazon S3 na documentação do Amazon Bedrock.
-
Audite e monitore o acesso aos modelos básicos — Use a Amazon CloudWatch, um serviço que registra ações realizadas por um usuário, uma função ou um AWS service (Serviço da AWS). CloudTrail captura todas as chamadas de API para o Amazon Bedrock como eventos. Para obter mais informações, consulte Monitorar chamadas da API Amazon Bedrock usando CloudTrail e Registrar chamadas da API Amazon SageMaker AI usando AWS CloudTrail.
-
Siga os 10 principais riscos de segurança do OWASP para segurança de LLM — Siga os 10 principais riscos de segurança do OWASP para aplicativos de LLM e certifique-se de ter claramente identificado estratégias e controles de segurança para arquitetar defesas em camadas. Para obter mais informações, consulte Arquitetar a segurança de defesa aprofundada para aplicativos generativos de IA usando o OWASP Top 10 for
LLMs (postagem no blog).AWS
Matriz de escopo de segurança
Os controles de segurança específicos de que você precisa dependem da natureza do seu aplicativo generativo de IA. A AWS Generative AI Security Scoping Matrix
A matriz ajuda as organizações a identificar os controles de segurança apropriados com base em fatores como:
-
Se o aplicativo é voltado para o consumidor ou interno da empresa
-
O uso de modelos pré-treinados em comparação com o ajuste fino
-
A sensibilidade dos dados que estão sendo processados
-
A importância do aplicativo para as operações comerciais
Recomendações de implementação
Para implementar uma estrutura abrangente de segurança e governança para suas cargas de trabalho generativas de IA, considere as seguintes recomendações:
-
Estabeleça políticas e procedimentos claros para acesso e uso do modelo.
-
Implemente controles de segurança em várias camadas, como nas camadas de rede, aplicativos e dados.
-
Realize avaliações regulares de segurança e auditorias de conformidade.
-
Mantenha a documentação detalhada das medidas e controles de segurança.
-
Forneça treinamento de conscientização sobre segurança para equipes que trabalham com IA generativa.
-
Revise e atualize regularmente os controles de segurança à medida que as ameaças evoluem.
