Detección y filtrado del contenido dañino mediante Barreras de protección para Amazon Bedrock

Una aplicación de chatbot que ayuda a filtrar las entradas dañinas de los usuarios y las respuestas tóxicas de los modelos.

Una aplicación bancaria que ayuda a bloquear las consultas de los usuarios o modelar las respuestas relacionadas con la búsqueda o el suministro de asesoramiento sobre inversiones ilegales.

Una aplicación de centro de llamadas para resumir las transcripciones de las conversaciones entre usuarios y agentes puede utilizar barreras de protección para redactar la información de identificación personal (PII) de los usuarios a fin de proteger su privacidad.

Filtros de contenido: este filtro le ayuda a detectar y filtrar contenido de texto o imagen dañino en las solicitudes de entrada o en las respuestas de los modelos. El filtrado se realiza en función de la detección de determinadas categorías de contenido dañino predefinidas: odio, insultos, contenido sexual, violencia, mala conducta y ataque de peticiones. Puede configurar la intensidad del filtro para cada una de estas categorías en función de sus casos de uso. Estas categorías son compatibles con los niveles clásico y estándar. Con el nivel estándar, la detección de contenido no deseado se amplía para proteger contra el contenido dañino introducido en los elementos del código, incluidos los comentarios, los nombres de variables y funciones y las cadenas literales.

Temas rechazados: puede definir un conjunto de temas que no son deseables en el contexto de su aplicación. El filtro ayudará a bloquearlos si se detectan en las consultas de los usuarios o en las respuestas del modelo. Con el nivel estándar, la detección de contenido no deseado se amplía a la protección contra el contenido dañino introducido en los elementos del código, incluidos los comentarios, las variables y los nombres de funciones, y las cadenas literales.

Filtros de palabras: puede definir un conjunto de palabras o frases personalizadas (coincidencias exactas) que desee bloquear en la interacción entre los usuarios finales y las aplicaciones de IA generativa. Por ejemplo, puedes bloquear las blasfemias (usa una ready-to-use opción), así como las palabras personalizadas, como los nombres de los competidores.

Filtros de información confidencial: puede configurar este filtro para ayudar a bloquear o enmascarar la información confidencial, como la información de identificación personal (PII), en las entradas de los usuarios y en las respuestas del modelo. El bloqueo o el enmascaramiento se realizan en función de la detección probabilística de información confidencial en entidades como el número de seguro social, la fecha de nacimiento, la dirección, etc. Este filtro también permite configurar la detección de patrones basada en expresiones regulares (expresiones regulares personalizadas).

Comprobaciones de base contextual: este filtro le ayuda a detectar alucinaciones en las respuestas de los modelos si no se basan en la fuente (son inexactas desde el punto de vista fáctico o añaden nueva información) o son irrelevantes para la consulta del usuario. Por ejemplo, puede bloquear o marcar las respuestas en las aplicaciones de generación de recuperación aumentada (RAG). Si las respuestas del modelo se desvían de la información de la fuente recuperada o no responden a la pregunta del usuario.

Comprobaciones de razonamiento automatizadas: este filtro le ayuda a validar la precisión de las respuestas del modelo básico en función de un conjunto de reglas lógicas. Puede utilizar las verificaciones de razonamiento automatizado para detectar alucinaciones, sugerir correcciones y resaltar suposiciones no declaradas en las respuestas de los modelos.