Detección y filtrado del contenido dañino mediante Barreras de protección para Amazon Bedrock

Una aplicación de chatbot puede utilizar barreras de protección para ayudar a filtrar las entradas dañinas de los usuarios y las respuestas tóxicas de los modelos.

Una aplicación bancaria puede utilizar barreras de protección para bloquear las consultas de los usuarios o las respuestas del modelo relacionadas con la búsqueda o la prestación de asesoramiento en materia de inversiones.

Una aplicación de centro de llamadas para resumir las transcripciones de las conversaciones entre usuarios y agentes puede utilizar barreras de protección para redactar la información de identificación personal (PII) de los usuarios a fin de proteger su privacidad.

Filtros de contenido: detectan y filtran el contenido de texto o imagen dañino en las peticiones de entrada o en las respuestas de los modelos. El filtrado se realiza en función de la detección de determinadas categorías de contenido dañino predefinidas: odio, insultos, contenido sexual, violencia, mala conducta y ataque de peticiones. También puede ajustar la intensidad del filtro para cada una de estas categorías. Estas categorías son compatibles con los niveles clásico y estándar. Con el nivel estándar, la detección de contenido no deseado se amplía para proteger contra el contenido dañino introducido en los elementos del código, incluidos los comentarios, los nombres de variables y funciones y las cadenas literales.

Temas denegados: defina un conjunto de temas no deseables en el contexto de su solicitud. El filtro ayudará a bloquearlos si se detectan en las consultas de los usuarios o en las respuestas del modelo. Con el nivel estándar, la detección de contenido no deseado se amplía a la protección contra el contenido dañino introducido en los elementos del código, incluidos los comentarios, las variables y los nombres de funciones y las cadenas literales.

Filtros de palabras: configure los filtros para ayudar a bloquear palabras, frases y blasfemias (coincidencia exacta). Estas palabras pueden incluir términos ofensivos, nombres de la competencia, etc.

Filtros de información confidencial: configure filtros para bloquear o enmascarar información confidencial, como la información de identificación personal (PII), o personalice las expresiones regulares en las entradas de los usuarios y en las respuestas del modelo. El bloqueo o enmascaramiento se realiza en función de la detección probabilística de información confidencial en formatos estándar en entidades como el número de seguridad social, la fecha de nacimiento, la dirección, etc. Esto también permite configurar la detección de patrones de identificadores basada en expresiones regulares.

Verificaciones de fundamento contextual: ayudan a detectar y filtrar las alucinaciones en las respuestas del modelo según el fundamento en un origen y su relevancia para la consulta del usuario.

Verificaciones de razonamiento automatizado: pueden ayudarlo a validar la precisión de las respuestas del modelo fundacional en función de un conjunto de reglas lógicas. Puede utilizar las verificaciones de razonamiento automatizado para detectar alucinaciones, sugerir correcciones y resaltar suposiciones no declaradas en las respuestas de los modelos.