As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Perguntas frequentes
P: Quais camadas adicionais de segurança devo considerar para evitar ataques de injeção imediata?
R. O diagrama a seguir mostra as três principais camadas de segurança: entrada LLM, grades de proteção integradas do LLM e grades de proteção introduzidas pelo usuário.
Sua organização deve considerar a implementação de protocolos de segurança em todas as camadas. Para a primeira camada (entrada LLM), considere as etapas de mitigação de riscos para ajudar a proteger o aplicativo implementando mecanismos como informações de identificação pessoal (PII) ou redação, autenticação, autorização e criptografia de informações confidenciais. A segunda camada (grades de proteção embutidas no LLM) são títulos de modelo ou aplicativo fornecidos pelo LLM. Embora a maioria dos LLMs seja treinada com protocolos de segurança para evitar o uso inadequado, sua organização ainda deve considerar a adição de controles de segurança adicionais usando o Guardrails for Amazon Bedrock para
P: Como as organizações podem se defender contra ataques de injeção imediata usando engenharia imediata?
R. As organizações podem se defender contra ataques de injeção imediata implementando as melhores práticas de engenharia imediata, conforme discutido na seção Melhores práticas. Sua organização também pode considerar a adição de barreiras, como validação de entrada, higienização imediata e canais de comunicação seguros.
P: Os elementos de segurança imediatos são independentes do modelo?
R. Geralmente, os elementos de segurança imediata são projetados para LLMs específicos. Cada LLM é treinado de forma diferente em termos de qualidade de dados, diversidade, representação, viés e abordagens de ajuste fino, portanto, um elemento de segurança imediato que foi introduzido para um LLM não é diretamente transferível para outro LLM. No entanto, os elementos de segurança discutidos neste guia podem fornecer uma estrutura e uma orientação para o desenvolvimento de elementos de segurança imediata personalizados para outros LLMs.
P: Como devo integrar esses elementos em uma estrutura empresarial de MLOps?
R. Dependendo das restrições e do cenário de dados da sua organização, os elementos de segurança imediata podem ser de propriedade do cientista de dados ou do desenvolvedor que está trabalhando em um caso de uso específico de IA generativa ou de uma equipe central de governança de IA generativa. Ao projetar a estrutura de MLOps para uma solução de IA generativa e lançar a solução para o ambiente de produção, recomendamos que você analise as postagens do AWS blog FMOps/LLMOps: Operacionalize a IA generativa e as diferenças com MLOps e Operacionalize a avaliação do LLM em grande escala usando os serviços Amazon
P: Quais são alguns dos casos de uso bem-sucedidos?
R. As grades de proteção discutidas neste guia foram usadas com sucesso em RAG-based soluções para RH, apólice corporativa, resumo de documentos de seguro, investimento corporativo e resumo de registros médicos.
