FAQ

P: ¿Qué capas de seguridad adicionales debo tener en cuenta para evitar los ataques de inyección inmediata?

R: El siguiente diagrama muestra las tres capas de seguridad principales: las barandillas de LLM entrada, las barandillas LLM integradas y las barandillas introducidas por el usuario.

Su organización debería considerar la posibilidad de implementar protocolos de seguridad en todos los niveles. Para el primer nivel (LLMentrada), considere la posibilidad de adoptar medidas de mitigación de riesgos para proteger la aplicación mediante la implementación de mecanismos como la redacción, la autenticación, la autorización y el cifrado de la información de identificación personal (PII) o información confidencial. La segunda capa (barandas LLM integradas) son los valores del modelo o de la aplicación proporcionados por el. LLM Si bien la mayoría LLMs está capacitada con protocolos de seguridad para evitar el uso inapropiado, su organización debería considerar la posibilidad de añadir controles de seguridad adicionales mediante el uso de Guardrails for Amazon Bedrock a fin de ofrecer un nivel uniforme de seguridad de IA en todas las aplicaciones de IA generativa. Por último, las barandillas introducidas por los usuarios deberían incorporar diseños de plantillas más rápidos y medidas de seguridad posteriores al procesamiento de los datos generados para evitar resultados no deseados.

P: ¿Cómo pueden las organizaciones defenderse de los ataques de inyección rápida mediante una ingeniería rápida?

R. Las organizaciones pueden defenderse de los ataques de inyección rápida mediante la implementación de las mejores prácticas de ingeniería rápida, tal como se explica en la sección Mejores prácticas. Su organización también puede considerar la posibilidad de añadir barreras, como la validación de las entradas, la rápida desinfección y los canales de comunicación seguros.

P: ¿Los elementos de seguridad inmediata son independientes del modelo?

R. Por lo general, los elementos de seguridad inmediata se diseñan para fines específicos. LLMs Cada uno LLM tiene una formación diferente en cuanto a la calidad de los datos, la diversidad, la representación, el sesgo y los enfoques de ajuste, por lo que un elemento de seguridad rápido que se introdujo para uno LLM no se puede transferir directamente a otro. LLM Sin embargo, los elementos de seguridad que se analizan en esta guía pueden proporcionar un marco y una orientación para desarrollar elementos de seguridad rápidos y personalizados para otros. LLMs

P: ¿Cómo debo integrar estos elementos en un MLOps marco empresarial?

R. Según las limitaciones y el panorama de datos de su organización, los elementos de seguridad inmediata pueden ser propiedad del científico o desarrollador de datos que esté trabajando en un caso de uso específico de la IA generativa o de un equipo central de gobierno de la IA generativa. Cuando diseñe el MLOps marco para una solución de IA generativa y la lance al entorno de producción, le recomendamos que consulte las publicaciones del AWS blog FMOps/LLMOps: Operacionalice la IA generativa y las diferencias con MLOps y operacionalice la LLM evaluación a escala utilizando Amazon SageMaker AI Clarify y MLOps los servicios como punto de partida. Considere la posibilidad de introducir barreras de seguridad para garantizar que se haya agregado la seguridad adecuada a nivel inmediato.

P: ¿Cuáles son algunos de los casos de uso exitosos?

R: Las barreras que se analizan en esta guía se utilizaron con éxito en soluciones RAG basadas en recursos humanos, pólizas corporativas, resúmenes de documentos de seguros, inversiones corporativas y resúmenes de historias clínicas.