Conditions préalables pour les profils d’inférence
Avant d’utiliser un profil d’inférence, assurez-vous que les conditions préalables suivantes sont réunies :
-
Votre rôle a accès aux actions de l’API du profil d’inférence. Si la politique gérée par AWS AmazonBedrockFullAccess est associée à votre rôle, vous pouvez ignorer cette étape. Sinon, procédez comme suit :
-
Suivez les étapes décrites dans Création de politiques IAM et créez la politique suivante, qui permet à un rôle d’effectuer des actions liées au profil d’inférence et d’exécuter l’inférence de modèle à l’aide de tous les modèles de fondation et profils d’inférence.
(Facultatif) Vous pouvez restreindre l’accès du rôle des manières suivantes :
-
Pour restreindre les actions d’API que le rôle peut effectuer, modifiez la liste du champ
Actionpour qu’il ne contienne que les opérations d’API auxquelles vous souhaitez autoriser l’accès. -
Pour restreindre l’accès du rôle à des profils d’inférence spécifiques, modifiez la liste
Resourcepour qu’elle ne contienne que les profils d’inférence et les modèles de fondation auxquels vous souhaitez autoriser l’accès. Les profils d’inférence définis par le système commencent parinference-profileet les profils d’inférence d’application commencent parapplication-inference-profile.Important
Lorsque vous spécifiez un profil d’inférence dans le champ
Resourcede la première instruction, vous devez également spécifier le modèle de fondation dans chaque région qui lui est associée. -
Pour restreindre l’accès des utilisateurs afin qu’ils puissent invoquer un modèle de fondation uniquement via un profil d’inférence, ajoutez un champ
Conditionet utilisez la clé de conditionaws:InferenceProfileArn. Spécifiez le profil d’inférence sur lequel vous souhaitez filtrer l’accès. Cette condition peut être incluse dans une instruction qui s’applique aux ressourcesfoundation-model. -
Par exemple, vous pouvez associer la politique suivante à un rôle pour lui permettre d’invoquer le modèle Anthropic Claude 3 Haiku uniquement via le profil d’inférence américain Anthropic Claude 3 Haiku du compte
111122223333dans la région us-west-2 : -
Par exemple, vous pouvez associer la politique suivante à un rôle pour lui permettre d’invoquer le modèle Anthropic Claude Sonnet 4 uniquement via le profil d’inférence américain Claude Sonnet 4 du compte 111122223333 dans la région USA Est (Ohio) (us-east-2) :
-
Vous pouvez également restreindre l’utilisation du profil d’inférence global Claude Sonnet 4 en ajoutant un refus explicite avec une condition
StringEqualsqui vérifie que la clé de contexte de la demandeaws:RequestedRegionest égale à non spécifiée. Parce qu’il correspond àStringEquals, le refus remplace toute autorisation et bloque l’acheminement global des demandes d’inférence.{ "Effect": "Deny", "Action": [ "bedrock:InvokeModel*" ], "Resource": "*", "Condition": { "StringEquals": { "aws:RequestedRegion": "unspecified" } } },
-
-
Suivez les étapes décrites dans Ajout et suppression d’autorisations basées sur l’identité IAM pour associer la politique à un rôle afin d’accorder au rôle les autorisations nécessaires pour consulter et utiliser tous les profils d’inférence.
-
-
Vous avez demandé l’accès au modèle défini dans le profil d’inférence que vous souhaitez utiliser, dans la région à partir de laquelle vous souhaitez appeler le profil d’inférence.