View a markdown version of this page

Régions et modèles pris en charge pour les profils d'inférence - Amazon Bedrock
Trouvez les profils d'inférence interrégionaux pris en chargeRégions et modèles pris en charge pour les profils d'inférence d'applications

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Régions et modèles pris en charge pour les profils d'inférence

Pour obtenir la liste des codes de région et des points de terminaison pris en charge dans Amazon Bedrock, consultez Points de terminaison et quotas Amazon Bedrock. Cette rubrique décrit les profils d'inférence prédéfinis que vous pouvez utiliser ainsi que les régions et les modèles qui prennent en charge les profils d'inférence d'application.

Note

Vous recherchez des identifiants de profil d'inférence pour un modèle spécifique ? Les identifiants de profil d'inférence et la disponibilité régionale de chaque modèle sont désormais documentés sur la page détaillée du modèle. Consultez les modèles en un coup d'œil et choisissez le modèle qui vous intéresse.

Trouvez les profils d'inférence interrégionaux pris en charge

Vous pouvez effectuer une inférence entre régions à l'aide de profils d'inférence entre régions (définis par le système). Grâce à l'inférence entre régions, vous pouvez répartir le trafic sur plusieurs régions Régions AWS en utilisant le calcul dans chacune de ces régions.

Cross-Region les profils d'inférence (définis par le système) sont nommés d'après le modèle qu'ils prennent en charge et définis par les régions qu'ils prennent en charge. Pour comprendre comment un profil d'inférence interrégional gère vos demandes, consultez les définitions suivantes :

  • Région source : région à partir de laquelle vous effectuez la demande d’API qui spécifie le profil d’inférence.

  • Région de destination : région dans laquelle le service Amazon Bedrock peut acheminer la demande depuis votre région source.

Lorsque vous invoquez un profil d’inférence interrégional dans Amazon Bedrock, votre demande provient d’une région source et est automatiquement acheminée vers l’une des régions de destination définies dans ce profil, optimisant ainsi les performances. Les régions de destination pour les profils d’inférence interrégionaux mondiaux incluent toutes les régions commerciales.

Note

Les régions de destination d'un profil d'inférence interrégional peuvent inclure des régions facultatives, qui sont des régions que vous devez explicitement activer au niveau de l'organisation Compte AWS ou au niveau de l'organisation. Pour en savoir plus, consultez la section Activer ou désactiver Régions AWS dans votre compte. Lorsque vous utilisez un profil d’inférence interrégional, votre demande d’inférence peut être acheminée vers l’une des régions de destination figurant dans le profil, même si vous n’avez pas activé ces régions dans votre compte. Vos demandes de saisie et les résultats de sortie peuvent être stockés dans les régions d'inscription à des fins de détection des abus.

Les politiques de contrôle des services (SCP) et Gestion des identités et des accès AWS (IAM) fonctionnent ensemble pour contrôler les endroits où l'inférence entre régions est autorisée. À l’aide des SCP, vous pouvez contrôler les régions qu’Amazon Bedrock peut utiliser à des fins d’inférence, et à l’aide des politiques IAM, vous pouvez définir les utilisateurs ou rôles autorisés à exécuter l’inférence. Si une région de destination d’un profil d’inférence interrégional est bloquée dans vos SCP, la demande échoue même si les autres régions restent autorisées. Pour garantir un fonctionnement efficace de l'inférence interrégionale, vous pouvez mettre à jour vos politiques SCP et IAM afin d'autoriser toutes les actions d'inférence Amazon Bedrock requises (par exemple, bedrock:InvokeModel* orbedrock:CreateModelInvocationJob) dans toutes les régions de destination incluses dans le profil d'inférence que vous avez choisi. Pour en savoir plus, consultez Activation de l’inférence interrégionale Amazon Bedrock dans les environnements multicomptes.

Note

Certains profils d’inférence sont acheminés vers différentes régions de destination en fonction de la région source à partir de laquelle vous les appelez. Par exemple, si vous appelez us.anthropic.claude-3-haiku-20240307-v1:0 depuis la région USA Est (Ohio), il peut acheminer les demandes vers us-east-1, us-east-2 ou us-west-2, mais si vous l’appelez depuis la région USA Ouest (Oregon), il peut acheminer les demandes uniquement vers us-east-1 et us-west-2.

Pour vérifier les régions source et de destination d’un profil d’inférence, vous pouvez effectuer l’une des opérations suivantes :

  • Ouvrez les modèles en un coup d'œil, choisissez le modèle et consultez sa section Disponibilité régionale pour les identifiants de profil d'inférence, les régions source et les régions de destination.

  • Envoyez une GetInferenceProfiledemande avec un point de terminaison du plan de contrôle Amazon Bedrock depuis une région source et spécifiez le nom de ressource Amazon (ARN) ou l'ID du profil d'inférence dans le inferenceProfileIdentifier champ. Le champ models de la réponse est mappé à une liste d’ARN de modèle, dans laquelle vous pouvez identifier chaque région de destination.

Note

Le profil d'inférence interrégional global pour un modèle spécifique peut changer au fil du temps en raison de l' AWS ajout de nouvelles régions commerciales dans lesquelles vos demandes peuvent être traitées. Toutefois, si un profil d'inférence est lié à une zone géographique (comme les États-Unis, l'UE ou la région APAC), la liste des régions de destination ne changera jamais. AWS peut créer de nouveaux profils d'inférence incorporant de nouvelles régions. Vous pouvez mettre à jour vos systèmes pour utiliser ces profils d’inférence en remplaçant les identifiants de votre configuration par les nouveaux.

Le profil d'inférence interrégional global n'est actuellement pris en charge sur le Anthropic Claude Sonnet 4 modèle que pour les régions sources suivantes : USA Ouest (Oregon), USA Est (Virginie du Nord), USA Est (Ohio), Europe (Irlande) et Asie-Pacifique (Tokyo). Les régions de destination du profil d’inférence mondial comprennent toutes les Régions AWS commerciales.

Vous pouvez trouver les profils d'inférence interrégionaux pris en charge de l'une des manières suivantes :

  • Recherche par modèle : Consultez les modèles en un coup d'œil et choisissez-en un. Sur la page détaillée du modèle, le tableau de disponibilité régionale indique les régions prises en charge In-Region, les profils d'inférence basés sur la géographie et les profils d'inférence globaux. La section ID de profil d'inférence répertorie les identifiants de profil, les régions source prises en charge et les régions de destination.

  • Interroger une région source : envoyez une ListInferenceProfilesdemande à un point de terminaison du plan de contrôle Amazon Bedrock dans la région que vous prévoyez d'utiliser. La réponse inclut les profils d'inférence définis par le système qui sont actuellement disponibles dans cette région source.

Par exemple, la AWS CLI commande suivante répertorie les profils d'inférence AU actifs que vous pouvez utiliser dans la région Asie-Pacifique (Sydney) :

aws bedrock list-inference-profiles \
    --region ap-southeast-2 \
    --type-equals SYSTEM_DEFINED \
    --query "inferenceProfileSummaries[?status=='ACTIVE' && starts_with(inferenceProfileId, 'au.')].[inferenceProfileId,inferenceProfileName]" \
    --output table

Pour chaque profil d'inférence que vous souhaitez utiliser, envoyez une GetInferenceProfiledemande depuis la même région source. La région de chaque modèle (ARN) models sur le terrain est une région de destination vers laquelle le profil d'inférence peut acheminer les demandes. Par exemple :

aws bedrock get-inference-profile \
    --region ap-southeast-2 \
    --inference-profile-identifier inference-profile-id \
    --query 'models[].modelArn'
Important

Si vous avez des exigences relatives à la résidence des données, appelez GetInferenceProfiledepuis chaque région source que vous prévoyez d'utiliser et vérifiez toutes les régions de destination dans la réponse. Les profils d'inférence et les régions de destination disponibles peuvent varier en fonction de la région source. Ne vous fiez pas uniquement au préfixe géographique figurant dans l'identifiant d'un profil d'inférence pour déterminer où les demandes peuvent être acheminées.

Régions et modèles pris en charge pour les profils d'inférence d'applications

Des profils d'inférence d'application peuvent être créés pour les modèles pris en charge comme suit : Régions AWS

  • af-south-1

  • ap-east-2

  • ap-northeast-1

  • ap-northeast-2

  • ap-northeast-3

  • ap-south-1

  • ap-south-2

  • ap-southeast-1

  • ap-southeast-2

  • ap-southeast-3

  • ap-southeast-4

  • ap-southeast-5

  • ap-southeast-6

  • ap-southeast-7

  • ca-central-1

  • ca-west-1

  • eu-central-1

  • eu-central-2

  • eu-north-1

  • eu-south-1

  • eu-south-2

  • eu-west-1

  • eu-west-2

  • eu-west-3

  • il-central-1

  • me-central-1

  • me-south-1

  • mx-central-1

  • sa-east-1

  • us-east-1

  • us-east-2

  • us-gov-east-1

  • us-gov-west-1

  • us-west-1

  • us-west-2

Les profils d'inférence d'application peuvent être créés à partir de n'importe quel modèle de base ou profil d'inférence interrégional (défini par le système) pris en charge par Amazon Bedrock, y compris les modèles d'intégration. Spécifiez un modèle de base s'il prend en charge l'inférence à la demande dans la région où vous créez le profil, ou un profil d'inférence interrégional (défini par le système) si le modèle est diffusé uniquement via un profil d'inférence. Pour savoir comment un modèle est servi dans une région donnée, consultez les modèles en un coup d'œil.