Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Usa la InvokeGuardrailChecks API en tu aplicación
Con la InvokeGuardrailChecksAPI, puede evaluar las solicitudes de los usuarios y modelar las respuestas con medidas de seguridad específicas, como filtros de contenido, detección rápida de ataques y filtros de información confidencial en cualquier punto de la aplicación, sin necesidad de crear recursos de protección individuales. Puede utilizar esta API en varias aplicaciones, incluidos los flujos de trabajo de IA de los agentes que implican conversaciones en varios turnos en los que es necesario evaluar el contenido en cada turno. La API es solo de detección: detecta contenido no deseado y devuelve una puntuación numérica para cada control de seguridad, de modo que puedas definir el umbral y tomar las medidas necesarias dentro de la lógica de la aplicación. Con estas puntuaciones, puede crear una lógica de respuesta adaptativa, como bloquear, eludir, reintentar o utilizar una ruta para que la revise un humano, en función de su umbral personalizado y de los requisitos de su aplicación.
Características de la InvokeGuardrailChecks API:
-
Flexibilidad: puede invocar cualquier control de seguridad con la
InvokeGuardrailChecksAPI e integrarlo en cualquier parte de la aplicación. Puede llamar a la API con cualquier comprobación de seguridad antes de enviar un mensaje al LLM, después de recibir la respuesta del LLM, antes de ejecutar una herramienta a la que el modelo quiera llamar, después de que la herramienta devuelva un resultado o en cualquier otro momento en el que desee evaluar el contenido. Por ejemplo, puede incluir la detección rápida de ataques en una solicitud de entrada junto con la moderación del contenido con filtros de contenido, pero comprobar si hay filtraciones de información confidencial, como el contenido de PII, con las respuestas del modelo. -
No es necesario crear recursos por adelantado: no es necesario crear un recurso de protección antes de invocar las medidas de seguridad necesarias con la API. No es necesario incluir un
CreateGuardrailpaso ni realizar un seguimiento de los identificadores o versiones individuales de las barandillas. Esto es especialmente valioso para los flujos de trabajo de IA de las agencias, en los que los diferentes pasos del ciclo requieren diferentes posturas de seguridad. Puede aplicar medidas de seguridad individuales en los distintos pasos sin crear recursos de protección en cada paso, lo que evita la sobrecarga operativa. -
Detect-only— La
InvokeGuardrailChecksAPI devuelve los resultados de cada control de seguridad con una puntuación numérica entre 0 y 1. La API no bloquea, aprueba ni redacta el contenido. Tú decides la acción necesaria en función de los requisitos de tu aplicación, como bloquear el contenido, redactar una PII que coincida o mostrar una advertencia. -
Medidas de seguridad compatibles: la
InvokeGuardrailChecksAPI admite las siguientes protecciones que ofrece Amazon Bedrock Guardrails:-
Bloqueo de palabras y conversaciones dañinas con filtros de contenido
-
Detección de ataques de peticiones con Barreras de protección para Amazon Bedrock— La detección rápida de ataques se ofrece como medida de seguridad independiente, aparte de los filtros de contenido de la API.
InvokeGuardrailChecksEsto es diferente de laApplyGuardrailAPI, en la que la comprobación de seguridad de los ataques rápidos se incluye como parte de los filtros de contenido. -
Eliminación de la PII de las conversaciones con filtros de información confidencial
-
Temas
Regiones admitidas
La InvokeGuardrailChecks API está disponible en las siguientes AWS regiones:
Este de EE. UU. (Norte de Virginia)
Este de EE. UU. (Ohio)
Oeste de EE. UU. (Oregón)
Europa (Londres)
Europa (Estocolmo)
Asia-Pacífico (Tokio)
Asia-Pacífico (Sídney)
