Distribuya la inferencia de la barandilla en Regiones de AWS

Puede habilitar la inferencia entre regiones con Amazon Bedrock Guardrails, que dirige automáticamente las solicitudes de inferencia durante la evaluación de la política de barandas de manera óptima dentro de su región geográfica. Región de AWS (Para obtener más información sobre cómo funciona esto, consulte Aumento del rendimiento con la inferencia entre regiones). La distribución de las solicitudes de inferencia entre Regiones de AWS maximiza los recursos de computación disponibles y la disponibilidad de los modelos, lo que ayuda a mantener el rendimiento y la fiabilidad de las barreras de protección cuando aumenta la demanda. El uso de la inferencia entre regiones no conlleva ningún costo adicional.

Cross-Region Las solicitudes de inferencia se guardan dentro de las regiones que forman parte de la zona geográfica en la que residen originalmente los datos. Por ejemplo, una solicitud realizada en EE. UU. se mantiene dentro de las regiones de EE. UU. Si bien la configuración de las barreras de protección solo permanece almacenada en la región principal, cuando utiliza la inferencia entre regiones, las peticiones de entrada y los resultados de salida pueden llevarse fuera de la región principal. Todos los datos se transmiten cifrados dentro de la red segura de Amazon.

Configuración de la inferencia de barreras de protección entre regiones

Cross-Region la inferencia de barandas se gestiona mediante un perfil de barandilla, que es un recurso definido por el sistema que se puede especificar al crear o modificar una barandilla de una de las siguientes maneras:

Necesita permisos específicos para utilizar la inferencia de barreras de protección entre regiones. Para obtener más información, consulte Permisos para usar la inferencia entre regiones con Barreras de protección para Amazon Bedrock.