Distribuya la inferencia de la barandilla en Regiones de AWS

Puede habilitar la inferencia entre regiones con Amazon Bedrock Guardrails, que dirige automáticamente las solicitudes de inferencia durante la evaluación de la política de barandas de manera óptima dentro de su región geográfica. Región de AWS (Para obtener más información sobre cómo funciona esto, consulte.) Aumente el rendimiento con la inferencia entre regiones La distribución de las solicitudes de inferencia Regiones de AWS maximiza los recursos de cómputo disponibles y la disponibilidad del modelo, lo que ayuda a mantener el rendimiento y la confiabilidad de los dispositivos de control cuando la demanda aumenta. El uso de la inferencia entre regiones no conlleva ningún coste adicional.

Las solicitudes de inferencia entre regiones se guardan dentro de las regiones que forman parte de la zona geográfica en la que se encuentran originalmente los datos. Por ejemplo, una solicitud realizada en EE. UU. se guarda dentro de las regiones de EE. UU. Si bien la configuración de su barandilla permanece almacenada solo en la región principal, es posible que las solicitudes de entrada y los resultados de salida se muevan fuera de la región principal al utilizar la inferencia entre regiones. Todos los datos se transmiten cifrados dentro de la red segura de Amazon.

Configure la inferencia de barandillas entre regiones

La inferencia de barandas entre regiones se gestiona mediante un perfil de barandilla, que es un recurso definido por el sistema que se puede especificar al crear o modificar una barandilla de una de las siguientes maneras:

Necesita permisos específicos para utilizar la inferencia de barandas entre regiones. Para obtener más información, consulte Permisos para usar la inferencia entre regiones con Amazon Bedrock Guardrails.