FAQ

P: Quais camadas adicionais de segurança devo considerar para evitar ataques de injeção imediata?

R. O diagrama a seguir mostra as três principais camadas de segurança: LLM entrada, grades de proteção LLM integradas e grades de proteção introduzidas pelo usuário.

Sua organização deve considerar a implementação de protocolos de segurança em todas as camadas. Para a primeira camada (LLMentrada), considere as etapas de mitigação de riscos para ajudar a proteger o aplicativo implementando mecanismos como informações de identificação pessoal (PII) ou redação, autenticação, autorização e criptografia de informações confidenciais. A segunda camada (grades de proteção LLM integradas) são títulos de modelo ou aplicativo fornecidos pelo. LLM Embora a LLMs maioria seja treinada com protocolos de segurança para evitar o uso inadequado, sua organização ainda deve considerar a adição de controles de segurança adicionais usando o Guardrails for Amazon Bedrock para oferecer um nível consistente de segurança de IA em todos os aplicativos generativos de IA. Por fim, as grades de proteção introduzidas pelo usuário devem introduzir os melhores designs de modelos imediatos e as medidas de segurança de pós-processamento na saída gerada para evitar resultados indesejáveis.

P: Como as organizações podem se defender contra ataques de injeção imediata usando engenharia imediata?

R. As organizações podem se defender contra ataques de injeção imediata implementando as melhores práticas de engenharia imediata, conforme discutido na seção Melhores práticas. Sua organização também pode considerar a adição de barreiras, como validação de entrada, higienização imediata e canais de comunicação seguros.

P: Os elementos de segurança imediatos são independentes do modelo?

R. Geralmente, os elementos de segurança imediata são projetados para fins específicosLLMs. Cada um LLM é treinado de forma diferente em termos de qualidade de dados, diversidade, representação, viés e abordagens de ajuste fino, portanto, um elemento de segurança imediato que foi introduzido para um LLM não é diretamente transferível para outro. LLM No entanto, os elementos de segurança discutidos neste guia podem fornecer uma estrutura e uma orientação para o desenvolvimento de elementos de segurança imediata personalizados para outrosLLMs.

P: Como devo integrar esses elementos em uma MLOps estrutura corporativa?

R. Dependendo das restrições e do cenário de dados da sua organização, os elementos de segurança imediata podem ser de propriedade do cientista de dados ou do desenvolvedor que está trabalhando em um caso de uso específico de IA generativa ou de uma equipe central de governança de IA generativa. Ao projetar a MLOps estrutura para uma solução de IA generativa e lançar a solução para o ambiente de produção, recomendamos que você revise as postagens do AWS blog FMOps/LLMOps: Operacionalize a IA generativa e as diferenças e operacionalize a avaliação LLM em grande escala usando o Amazon SageMaker AI Clarify and MLOps services como ponto de partida. MLOps Considere a introdução de portas de segurança para garantir que a segurança adequada em nível de alerta tenha sido adicionada.

P: Quais são alguns dos casos de uso bem-sucedidos?

R. As grades de proteção discutidas neste guia foram usadas com sucesso em soluções RAG baseadas em RH, apólice corporativa, resumo de documentos de seguro, investimento corporativo e resumo de registros médicos.