Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Inferencia interregional global
La inferencia interregional global amplía la inferencia interregional más allá de los límites geográficos, lo que permite dirigir las solicitudes de inferencia a empresas compatibles de todo el mundo. Regiones de AWS
Ventajas de la inferencia interregional global
Con la inferencia interregional global para el modelo Anthropic Claude Sonnet 4.5, se obtienen las siguientes ventajas en comparación con un perfil de inferencia interregional geográfico:
-
Cost-efficiency— Ahorras aproximadamente un 10% en los precios de los tokens de entrada y salida en comparación con la inferencia geográfica interregional. Amazon Bedrock calcula el precio en función del lugar Región de AWS desde el que realizas la solicitud (la fuente). Región de AWS
-
Supervisión simplificada: cuando utilice la inferencia global entre regiones, CloudTrail continúe registrando las entradas de registro en su fuente Región de AWS, lo que simplifica la observabilidad CloudWatch y la administración. Aunque tus solicitudes se procesan en diferentes países del Regiones de AWS mundo, mantienes una visión centralizada del rendimiento y los patrones de uso de tu aplicación a través de tus herramientas de supervisión habituales. AWS
-
Enrutamiento de solicitudes en todo el mundo: con la inferencia global entre regiones, sus solicitudes pueden procesarse mediante computación en todas las empresas compatibles de Regiones de AWS todo el mundo, en lugar de en una sola ubicación geográfica.
Consideraciones sobre la inferencia global entre regiones
Tenga en cuenta la siguiente información sobre la inferencia global entre regiones:
-
Para conocer las cuotas de rendimiento interregionales predeterminadas cuando se utilizan perfiles de inferencia globales, consulte las solicitudes de inferencia por minuto del Cross-region modelo global para $ {Model} y los tokens de inferencia del Cross-region modelo global por minuto para los $ {Model} valores de las cuotas de servicio de Amazon Bedrock en la Referencia general. AWS
Puede solicitar, ver y gestionar las cuotas del perfil de Cross-Region inferencia global desde la consola de cuotas de servicio
o mediante los comandos de la AWS CLI de su región de origen.
Requisitos de la política de IAM para la inferencia global entre regiones
Para habilitar la inferencia global entre regiones para tus usuarios, debes aplicar al rol una política de IAM dividida en tres partes. El siguiente es un ejemplo de política de IAM para proporcionar un control granular. <REQUESTING REGION>En el ejemplo, puede reemplazarla por la política en la Región de AWS que opera.
{ "Version": "2012-10-17", "Statement": [ { "Sid": "GrantGlobalCrisInferenceProfileRegionAccess", "Effect": "Allow", "Action": "bedrock:InvokeModel", "Resource": [ "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>" ], "Condition": { "StringEquals": { "aws:RequestedRegion": "<REQUESTING REGION>" } } }, { "Sid": "GrantGlobalCrisInferenceProfileInRegionModelAccess", "Effect": "Allow", "Action": "bedrock:InvokeModel", "Resource": [ "arn:aws:bedrock:<REQUESTING REGION>::foundation-model/<MODEL NAME>" ], "Condition": { "StringEquals": { "aws:RequestedRegion": "<REQUESTING REGION>", "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>" } } }, { "Sid": "GrantGlobalCrisInferenceProfileGlobalModelAccess", "Effect": "Allow", "Action": "bedrock:InvokeModel", "Resource": [ "arn:aws:bedrock:::foundation-model/<MODEL NAME>" ], "Condition": { "StringEquals": { "aws:RequestedRegion": "unspecified", "bedrock:InferenceProfileArn": "arn:aws:bedrock:<REQUESTING REGION>:<ACCOUNT>:inference-profile/global.<MODEL NAME>" } } } ] }
La primera parte de la política otorga acceso al perfil de inferencia regional de su solicitud Región de AWS. La segunda parte brinda acceso al recurso regional de FM. La tercera parte otorga acceso al recurso de FM global, lo que permite la capacidad de enrutamiento entre regiones.
Al implementar estas políticas, incluya los tres nombres de recursos de Amazon (ARN) en sus declaraciones de IAM:
-
El ARN del perfil de inferencia regional sigue el patrón.
arn:aws:bedrock:REGION:ACCOUNT:inference-profile/global.MODEL-NAMEUtilice este ARN para conceder acceso al perfil de inferencia global de la fuente. Región de AWS -
La FM regional usa.
arn:aws:bedrock:REGION::foundation-model/MODEL-NAMEUtilice este ARN para conceder acceso a la FM de la fuente Región de AWS. -
La FM global requiere
arn:aws:bedrock:::foundation-model/MODEL-NAME. Utilice este ARN para conceder acceso a la FM en diferentes países del mundo Regiones de AWS.
El ARN global de FM no tiene ninguna cuenta Región de AWS o no se ha especificado ninguna cuenta, lo cual es intencional y obligatorio para la funcionalidad interregional.
Inhabilite la inferencia global entre regiones
Puedes elegir entre dos enfoques principales para implementar políticas de denegación en el CRIS global para funciones específicas de IAM, cada uno con diferentes casos de uso e implicaciones:
-
Eliminar una política de IAM: el primer método consiste en eliminar una o más de las tres políticas de IAM necesarias de los permisos de usuario. Dado que el CRIS global requiere que las tres políticas funcionen, la eliminación de una política conllevará la denegación del acceso.
-
Implemente una política de denegación: el segundo enfoque consiste en implementar una política de denegación explícita que se dirija específicamente a los perfiles de inferencia del CRIS globales. Este método proporciona una documentación clara sobre su intención de seguridad y garantiza que, incluso si alguien añade accidentalmente las políticas de autorización necesarias más adelante, prevalecerá la denegación explícita. La política de denegación debe usar una
StringEqualscondición que coincida con el patrón."aws:RequestedRegion": "unspecified"Este patrón se dirige específicamente a los perfiles de inferencia con elglobalprefijo.
Al implementar políticas de denegación, es crucial entender que el CRIS global cambia el comportamiento del aws:RequestedRegion campo. Las políticas Región de AWS de denegación tradicionales que utilizan StringEquals condiciones con Región de AWS nombres específicos, por ejemplo, no "aws:RequestedRegion":
"us-west-2" funcionarán como se esperaba con el CRIS global. El servicio establece este campo global en lugar del destino Región de AWS real. Sin embargo, como se mencionó anteriormente, "aws:RequestedRegion": "unspecified" tendrá como resultado el efecto de denegación.
Requisitos de la política de control de servicios para la inferencia global entre regiones
Para obtener una inferencia global entre regiones, si la política de seguridad de su organización utiliza los SCP para bloquear las regiones no utilizadas, debe actualizar las condiciones del SCP específicas de su región para permitir el acceso con ellos. "aws:RequestedRegion": "unspecified" Esta condición es específica de la inferencia interregional global de Amazon Bedrock y garantiza que las solicitudes se puedan enviar a todas las regiones comerciales compatibles. AWS
En el siguiente ejemplo, SCP bloquea todas las llamadas a la AWS API que se encuentran fuera de las regiones aprobadas y, al mismo tiempo, permite que Amazon Bedrock Global haga inferencias interregionales que se utilizan como región para el enrutamiento global: "unspecified"
{ "Version": "2012-10-17", "Statement": [ { "Sid": "DenyAllOutsideApprovedRegions", "Effect": "Deny", "Action": "*", "Resource": "*", "Condition": { "StringNotEquals": { "aws:RequestedRegion": [ "us-east-1", "us-east-2", "us-west-2", "unspecified" ] } } } ] }
Inhabilite la inferencia global entre regiones
Las organizaciones con requisitos de residencia o cumplimiento de datos deben evaluar si la inferencia global interregional se ajusta a su marco de cumplimiento, ya que las solicitudes pueden procesarse en otras regiones comerciales compatibles. AWS Para deshabilitar de forma explícita la inferencia global entre regiones, implementa la siguiente política de SCP:
{ "Effect": "Deny", "Action": "bedrock:*", "Resource": "*", "Condition": { "StringEquals": { "aws:RequestedRegion": "unspecified" }, "ArnLike": { "bedrock:InferenceProfileArn": "arn:aws:bedrock:*:*:inference-profile/global.*" } } }
Este SCP niega explícitamente la inferencia global entre regiones porque la condición "aws:RequestedRegion" is "unspecified" y la "ArnLike" condición se dirigen a los perfiles de inferencia con el prefijo en el ARN. global
AWS Implementación de la torre de control
No se recomienda la edición manual de los SCP gestionados por AWS Control Tower, ya que puede provocar desviaciones. En su lugar, utilice los mecanismos proporcionados por Control Tower para gestionar estas excepciones. Los principios básicos implican ampliar los controles de denegación de acceso a las regiones existentes o habilitar las regiones y, a continuación, aplicar una política de bloqueo condicional y personalizada.
Para obtener una guía detallada y paso a paso sobre la implementación de la inferencia interregional con Control Tower, consulte la entrada del blog Cómo habilitar la inferencia interregional de Amazon Bedrock en entornos de cuentas múltiples.
Aumenta el límite de solicitudes para la inferencia global entre regiones
Al usar perfiles de inferencia CRIS globales, puede usar CRIS globales de más de 20 fuentes compatibles. Regiones de AWS Se trata de un límite global. Para ver, administrar o aumentar las cuotas de los perfiles de inferencia interregionales globales, utilice la consola de cuotas de servicio o la AWS CLI de la fuente solicitada. Región de AWS
Complete los siguientes pasos para solicitar un aumento del límite:
-
Inicia sesión en la consola de cuotas de servicio de tu AWS cuenta.
-
En el panel de navegación, elija Servicios de AWS .
-
En la lista de servicios, busque y elija Amazon Bedrock.
-
En la lista de cuotas de Amazon Bedrock, utilice el filtro de búsqueda para encontrar las cuotas globales específicas de CRIS. Por ejemplo:
-
Fichas de inferencia por minuto del modelo global interregional para Anthropic Claude Sonnet 4.5 V1
-
-
Seleccione la cuota que quiere aumentar.
-
Elija Solicitud de aumento a nivel de cuenta.
-
Introduzca el nuevo valor de cuota que desee.
-
Elija Solicitar para enviar la solicitud.
Al calcular el aumento de cuota requerido, ten en cuenta la tasa de agotamiento. La tasa de agotamiento es la velocidad a la que los tokens de entrada y salida se convierten en cuotas de uso para el sistema de limitación. En los siguientes modelos, los tokens de salida consumen 5 veces más que los tokens de salida (1 token de salida consume 5 de tus cuotas):
-
Claude Opus antrópico 4
-
Antrópico Claude Sonnet 4.5
-
Soneto antrópico de Claude 4
-
Soneto antrópico de Claude 3.7
En todos los demás modelos, la velocidad de consumo es de 1:1 (1 token de salida consume 1 token de su cuota). En el caso de los tokens de entrada, la relación entre el token y la cuota es de 1:1. El cálculo del número total de fichas por solicitud es el siguiente:
Input token count + Cache write input tokens + (Output token count x
Burndown rate)
Utilice la inferencia global entre regiones
Para utilizar la inferencia global entre regiones con Claude Sonnet 4.5 de Anthropic, los desarrolladores deben completar los siguientes pasos clave:
-
Utilice el ID del perfil de inferencia global: al realizar llamadas a la API a Amazon Bedrock, especifique el ID del perfil de inferencia de Claude Sonnet 4.5 global () de Anthropic en lugar de un ID de modelo específico.
global.anthropic.claude-sonnet-4-5-20250929-v1:0Región de AWS -
Configure los permisos de IAM: conceda los permisos de IAM adecuados para acceder al perfil de inferencia y a los FM en un destino potencial. Regiones de AWS
La inferencia global entre regiones es compatible con:
-
On-demand inferencia modelo
-
Inferencia en lotes
-
Agentes
-
Evaluación de modelos
-
Administración de peticiones
-
Flujos rápidos
nota
El perfil de inferencia global es compatible con la inferencia de On-demand modelos, la inferencia por lotes, los agentes, la evaluación de modelos, la gestión rápida y los flujos rápidos.
Implemente la inferencia global entre regiones
La implementación de la inferencia global entre regiones con Claude Sonnet 4.5 de Anthropic es sencilla, ya que solo requiere unos pocos cambios en el código de la aplicación actual. El siguiente es un ejemplo de cómo actualizar el código en Python:
import boto3 import json bedrock = boto3.client('bedrock-runtime', region_name='us-east-1') model_id = "global.anthropic.claude-sonnet-4-5-20250929-v1:0" response = bedrock.converse( messages=[{"role": "user", "content": [{"text": "Explain cloud computing in 2 sentences."}]}], modelId=model_id, ) print("Response:", response['output']['message']['content'][0]['text']) print("Token usage:", response['usage']) print("Total tokens:", response['usage']['totalTokens'])