Répartissez l'inférence des rambardes sur l'ensemble du territoire Régions AWS

Vous pouvez activer l'inférence interrégionale avec Amazon Bedrock Guardrails, qui achemine automatiquement les demandes d'inférence au cours de l'évaluation de la politique de garde-corps de manière optimale dans votre zone géographique. Région AWS (Pour plus d'informations sur le fonctionnement de ce système, voirAugmentez le débit grâce à l'inférence interrégionale.) La distribution des demandes d'inférence permet de Régions AWS maximiser les ressources informatiques disponibles et la disponibilité des modèles, ce qui contribue à maintenir les performances et la fiabilité lorsque la demande augmente. L'utilisation de l'inférence interrégionale n'entraîne aucun coût supplémentaire.

Les demandes d'inférence interrégionales sont conservées dans les régions qui font partie de la zone géographique dans laquelle les données se trouvent à l'origine. Par exemple, une demande faite aux États-Unis est conservée dans les régions des États-Unis. Bien que la configuration de votre garde-corps reste stockée uniquement dans la région principale, vos invites de saisie et les résultats de sortie peuvent être déplacés en dehors de votre région principale lorsque vous utilisez l'inférence entre régions. Toutes les données sont transmises cryptées au sein du réseau sécurisé d'Amazon.

Configurer l'inférence de garde-corps entre régions

L'inférence de garde-corps entre régions est gérée par le biais d'un profil de garde-corps, qui est une ressource définie par le système que vous pouvez spécifier lors de la création ou de la modification d'un garde-corps de l'une des manières suivantes :

Vous avez besoin d'autorisations spécifiques pour utiliser l'inférence de garde-corps entre régions. Pour de plus amples informations, veuillez consulter Autorisations pour utiliser l'inférence interrégionale avec Amazon Bedrock Guardrails.