Distribuya la inferencia de la barandilla en Regiones de AWS

Puede habilitar la inferencia entre regiones con Amazon Bedrock Guardrails, que dirige automáticamente las solicitudes de inferencia durante la evaluación de la política de barandas de manera óptima dentro de su región geográfica. Región de AWS (Para obtener más información sobre cómo funciona esto, consulte.) Aumente el rendimiento con la inferencia entre regiones La distribución de las solicitudes de inferencia en Regiones de AWS maximiza los recursos informáticos disponibles y la disponibilidad de los modelos, lo que ayuda a mantener el rendimiento y la fiabilidad de las barreras de protección cuando aumenta la demanda. El uso de la inferencia interregional no conlleva ningún costo adicional.

Las solicitudes de inferencia entre regiones se mantienen dentro de las regiones de que forman parte de la zona geográfica en la que se encuentran originalmente los datos. Por ejemplo, una solicitud realizada en EE. UU. se guarda en las regiones de EE. UU. Si bien la configuración de su barandilla permanece almacenada solo en la región principal, es posible que las solicitudes de entrada y los resultados de salida se muevan fuera de la región principal al utilizar la inferencia entre regiones. Todos los datos se transmiten cifrados dentro de la red segura de Amazon.

Configure la inferencia de barandillas entre regiones

La inferencia de barandas entre regiones se gestiona mediante un perfil de barandilla, que es un recurso definido por el sistema que se puede especificar al crear o modificar una barandilla de una de las siguientes maneras:

Necesita permisos específicos para utilizar la inferencia de barandas entre regiones. Para obtener más información, consulte Permisos para usar la inferencia entre regiones con Amazon Bedrock Guardrails.