Creación de barreras de protección de IA para Amazon Q en Connect - Amazon Connect
Cosas importantes que debe saberCreación de una barrera de protección de IACambio del mensaje de bloqueo predeterminadoEjemplos de comandos de la CLI

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Creación de barreras de protección de IA para Amazon Q en Connect

Una barrera de protección IA es un recurso que le permite implementar protecciones en función de sus casos de uso y de las políticas de IA responsable.

Amazon Connect utiliza barreras de protección de Amazon Bedrock. Puede crear y editar estas barreras de protección en el sitio web de administración de Amazon Connect .

Cosas importantes que debe saber

  • Puede crear hasta tres barreras de protección personalizadas.

  • Las barreras de protección de Amazon Q en Connect admiten los mismos idiomas que las barreras de protección de Amazon Bedrock de nivel clásico. Para obtener una lista de los idiomas admitidos, consulte Idiomas admitidos por las barreras de protección de Amazon Bedrock. La evaluación del contenido de texto en otros idiomas no será efectiva.

  • Al configurar o editar una barrera de protección, le recomendamos encarecidamente que experimente y compare diferentes configuraciones. Es posible que algunas de las combinaciones tengan consecuencias imprevistas. Pruebe la barrera de protección para asegurarse de que los resultados cumplen con los requisitos de su caso de uso.

Creación de una barrera de protección de IA

  1. Inicia sesión en el sitio web de Amazon Connect administración con una cuenta que tenga Amazon Q, AI Guardrails: cree un permiso en su perfil de seguridad.

  2. En el sitio web de Amazon Connect administración, en el menú de navegación de la izquierda, selecciona Amazon Q, AI guardrails.

  3. En la página Barreras de protección, seleccione Crear barrera de protección.

  4. En el cuadro de diálogo Crear barrera de protección de IA, introduzca un nombre y una descripción de la barrera de protección y, a continuación, elija Crear.

  5. En la página Generador de barreras de protección de IA, complete los siguientes campos según sea necesario para crear políticas para su barrera de protección:

    • Filtros de contenido: ajuste la intensidad de los filtros para ayudar a bloquear las peticiones de entrada o las respuestas de los modelos que contengan contenido dañino. El filtrado se realiza en función de la detección de determinadas categorías de contenido dañino predefinidas: odio, insultos, contenido sexual, violencia, mala conducta y ataque de peticiones.

    • Temas denegados: defina un conjunto de temas no deseables en el contexto de su solicitud. El filtro ayudará a bloquearlos si se detectan en las consultas de los usuarios o en las respuestas del modelo. Puede definir hasta 30 temas denegados.

    • Verificación de fundamento contextual: ayude a detectar y filtrar las alucinaciones en las respuestas del modelo según el fundamento en un origen y su relevancia para la consulta del usuario.

    • Filtros de palabras: configure los filtros para ayudar a bloquear palabras, frases y blasfemias (coincidencia exacta). Estas palabras pueden incluir términos ofensivos, nombres de la competencia, etc.

    • Filtros de información confidencial: configure filtros para bloquear o enmascarar información confidencial, como la información de identificación personal (PII), o personalice las expresiones regulares en las entradas de los usuarios y en las respuestas del modelo.

      El bloqueo o enmascaramiento se realiza en función de la detección probabilística de información confidencial en formatos estándar en entidades como el número de seguridad social, la fecha de nacimiento, la dirección, etc. Esto también permite configurar la detección de patrones de identificadores basada en expresiones regulares.

    • Mensajes bloqueados: personalice el mensaje predeterminado que se muestra al usuario si la barrera de protección bloquea la entrada o la respuesta del modelo.

    Amazon Connect no admite Filtro de contenido de imágenes para ayudar a detectar y filtrar contenido de imágenes inapropiado o tóxico.

  6. Cuando la barrera de protección esté completa, elija Guardar.

    Al seleccionarla en el menú desplegable de versiones, Latest:Draft siempre devuelve el estado guardado de la barrera de protección de IA.

  7. Elija Publicar. Las actualizaciones de la barrera de protección de IA se guardan, el estado de visibilidad de la barrera de protección de IA se establece en Publicada y se crea una nueva versión de la barrera de protección de IA.

    La página de la barrera de protección de IA, con el estado de Visibilidad establecido en Publicada.

    Al seleccionarla en el menú desplegable de versiones, Latest:Published siempre devuelve el estado guardado de la barrera de protección de IA.

Cambio del mensaje de bloqueo predeterminado

En esta sección se explica cómo acceder al generador y editor de barreras de protección de IA en el sitio web de administración de Amazon Connect con un ejemplo sobre cómo cambiar el mensaje de bloqueo que se muestra a los usuarios.

En la siguiente imagen se muestra un ejemplo del mensaje de bloqueo predeterminado que se muestra al usuario. El mensaje predeterminado es “La barrera de protección ha bloqueado el texto introducido”.

Un ejemplo de un mensaje de barrera de protección predeterminado que se muestra a un cliente.
Cómo cambiar el mensaje de bloqueo predeterminado

  1. Inicie sesión en el sitio web de Amazon Connect administración en https://instance name.my.connect.aws/. Use una cuenta de administrador o una cuenta con el permiso Amazon Q - Barreras de protección de IA - Crear en su perfil de seguridad.

  2. En el menú de navegación, elija Amazon Q, Barreras de protección de IA.

  3. En la página Barreras de protección de IA, seleccione Crear barrera de protección de IA. Aparece un cuadro de diálogo para que pueda asignar un nombre y una descripción.

  4. En el cuadro de diálogo Crear barrera de protección de IA, introduzca un nombre y una descripción y, a continuación, elija Crear. Si su empresa ya tiene tres barreras de protección, aparecerá un mensaje de error, tal como se muestra en la siguiente imagen.

    Un mensaje que indica que su empresa ya tiene tres barreras de protección.

    Si recibe este mensaje, en lugar de crear otra barrera de protección, considere la posibilidad de editar una barrera de protección existente para adaptarla a sus necesidades. O bien, elimine una para poder crear otra.

  5. Para cambiar el mensaje predeterminado que se muestra cuando la barrera de protección bloquea la respuesta del modelo, desplázate hasta la sección Mensajes de bloqueo.

  6. Introduzca el texto del mensaje de bloqueo que desee que se muestre, seleccione Guardar y, a continuación, Publicar.

Ejemplos de comandos de la CLI para configurar políticas de barrera de protección de IA

A continuación, se muestran ejemplos de cómo configurar las políticas de barreras de protección de IA mediante la CLI de AWS .

Bloqueo de temas no deseados

Utilice el siguiente comando AWS CLI de ejemplo para bloquear temas no deseados.

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "topicPolicyConfig": {
        "topicsConfig": [
            {
                "name": "Financial Advice",
                "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                "type": "DENY"
            }
        ]
    }
}

Filtrado del contenido dañino e inapropiado

Utilice el siguiente comando AWS CLI de ejemplo para filtrar contenido dañino e inapropiado. 

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contentPolicyConfig": {
        "filtersConfig": [
            {
                "inputStrength": "HIGH",
                "outputStrength": "HIGH",
                "type": "INSULTS"
            }
        ]
    }
}

Filtrado de palabras dañinas e inapropiadas

Utilice el siguiente comando AWS CLI de ejemplo para filtrar palabras dañinas e inapropiadas.  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "wordPolicyConfig": {
        "wordsConfig": [
            {
                "text": "Nvidia",
            },
        ]
    }
}

Detección de alucinaciones en la respuesta del modelo

Utilice el siguiente comando AWS CLI de ejemplo para detectar alucinaciones en la respuesta del modelo.  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contextualGroundPolicyConfig": {
        "filtersConfig": [
            {
                "type": "RELEVANCE",
                "threshold": 0.50
            },
        ]
    }
}

Ocultación de información confidencial

Utilice el siguiente comando AWS CLI de ejemplo para redactar información confidencial, como la información de identificación personal (PII).

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "sensitiveInformationPolicyConfig": {
        "piiEntitiesConfig": [
            {
                "type": "CREDIT_DEBIT_CARD_NUMBER",
                "action":"BLOCK",
            },
        ]
    }
}