Preguntas frecuentes

P: ¿Qué capas de seguridad adicionales debo tener en cuenta para evitar los ataques de inyección inmediata?

R: El siguiente diagrama muestra las tres capas de seguridad principales: entrada LLM, barandillas LLM integradas y barandillas introducidas por el usuario.

Su organización debería considerar la posibilidad de implementar protocolos de seguridad en todos los niveles. Para el primer nivel (entrada LLM), considere adoptar medidas de mitigación de riesgos para ayudar a proteger la aplicación mediante la implementación de mecanismos como la redacción, la autenticación, la autorización y el cifrado de la información de identificación personal (PII) o la información confidencial. La segunda capa (barandillas LLM integradas) son valores modelo o de aplicación proporcionados por el LLM. Si bien la mayoría de los LLM están entrenados con protocolos de seguridad para evitar el uso inapropiado, su organización debería considerar la posibilidad de añadir controles de seguridad adicionales mediante el uso de Guardrails for Amazon Bedrock para ofrecer un nivel uniforme de seguridad de IA en todas las aplicaciones de IA generativa. Por último, los dispositivos de protección introducidos por los usuarios deberían incorporar los mejores diseños de plantillas y medidas de seguridad posteriores al procesamiento de los datos generados para evitar resultados no deseados.

P: ¿Cómo pueden las organizaciones defenderse de los ataques de inyección rápida mediante una ingeniería rápida?

R. Las organizaciones pueden defenderse de los ataques de inyección rápida mediante la implementación de las mejores prácticas de ingeniería rápida, tal como se explica en la sección Mejores prácticas. Su organización también puede considerar la posibilidad de añadir barreras, como la validación de las entradas, la rápida desinfección y los canales de comunicación seguros.

P: ¿Los elementos de seguridad inmediata son independientes del modelo?

R: Por lo general, los elementos de seguridad rápida se diseñan para LLM específicos. Cada LLM recibe una formación diferente en cuanto a la calidad de los datos, la diversidad, la representación, el sesgo y los enfoques de ajuste, por lo que un elemento de seguridad rápida que se introdujo en un LLM no se puede transferir directamente a otro LLM. Sin embargo, los elementos de seguridad que se analizan en esta guía pueden proporcionar un marco y una orientación para desarrollar elementos de seguridad rápidos y personalizados para otros LLM.

P: ¿Cómo debo integrar estos elementos en un marco de MLOps empresarial?

R. Según las limitaciones y el panorama de datos de su organización, los elementos de seguridad inmediata pueden ser propiedad del científico o desarrollador de datos que esté trabajando en un caso de uso específico de la IA generativa o de un equipo central de gobierno de la IA generativa. Cuando diseñe el marco de MLOps para una solución de IA generativa y lance la solución al entorno de producción, le recomendamos que consulte las publicaciones del AWS blog FMOps/LLMOps: Operacionalice la IA generativa y las diferencias con los MLOP y Operacionalice la evaluación LLM a escala utilizando SageMaker Amazon AI Clarify y los servicios MLOps como punto de partida. Considere la posibilidad de introducir puertas de seguridad para asegurarse de que se ha agregado la seguridad adecuada y rápida.

P: ¿Cuáles son algunos de los casos de uso exitosos?

R: Las barreras que se analizan en esta guía se utilizaron satisfactoriamente en RAG-based soluciones de recursos humanos, pólizas corporativas, resúmenes de documentos de seguros, inversiones corporativas y resúmenes de historias clínicas.