Acheter un débit provisionné pour un modèle Amazon Bedrock - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Acheter un débit provisionné pour un modèle Amazon Bedrock

Amazon Bedrock propose deux types de débit provisionné : par jetons et par unités modèles. Reportez-vous aux instructions suivantes pour connaître le type de débit provisionné que vous souhaitez acheter.

Pour en savoir plus sur les différences entre les deux types de débit provisionné, consultez. Augmentez la capacité d'invocation des modèles grâce au débit provisionné dans Amazon Bedrock

Lorsque vous achetez un débit provisionné par unités de modèle pour un modèle, vous spécifiez le niveau d'engagement pour celui-ci et le nombre d'unités de modèle (MUs) à allouer. Pour les quotas MU, consultez la section Points de terminaison et quotas Amazon Bedrock dans le. Références générales AWS Avant de pouvoir acheter un débit provisionné (avec ou sans engagement), vous devez d'abord vous rendre au centre de AWS support MUs pour demander que votre compte soit réparti entre les débits provisionnés. Une fois votre demande acceptée, vous pouvez acheter un débit provisionné.

Note

Après avoir acheté le débit provisionné, s'il est associé à un modèle personnalisé, vous pouvez modifier le modèle en spécifiant l'une des options suivantes :

  • Le modèle de base à partir duquel le modèle personnalisé a été personnalisé

  • Un autre modèle personnalisé qui a été personnalisé à partir du même modèle de base que le modèle personnalisé

Vous ne pouvez modifier le modèle associé que pour les débits provisionnés associés à un modèle personnalisé.

Pour savoir comment acheter du débit provisionné pour un modèle, choisissez l'onglet correspondant à votre méthode préférée, puis suivez les étapes suivantes :

Console

  1. Connectez-vous au AWS Management Console avec une identité IAM autorisée à utiliser la console Amazon Bedrock. Ouvrez ensuite la console Amazon Bedrock à l'adresse https://console.aws.amazon.com/bedrock.

  2. Sélectionnez Débit provisionné dans le volet de navigation de gauche.

  3. Dans la section Débit provisionné, choisissez Acheter un débit provisionné.

  4. Pour la section Détails du débit provisionné, procédez comme suit :

    1. Dans le champ Nom du débit provisionné, entrez le nom du débit provisionné.

    2. Sous Sélectionner un modèle, sélectionnez un fournisseur de modèles de base ou une catégorie de modèles personnalisée. Sélectionnez ensuite le modèle pour lequel vous souhaitez provisionner le débit.

      Note

      Pour connaître les modèles de base pour lesquels vous pouvez acheter du débit provisionné sans engagement, consultez la documentation des modèles pris en charge.

      Dans la AWS GovCloud (US) région, vous ne pouvez acheter du débit provisionné que pour des modèles personnalisés sans engagement.

    3. (Facultatif) Pour associer des balises à votre débit provisionné, développez la section Tags et choisissez Ajouter une nouvelle balise. Pour de plus amples informations, veuillez consulter Balisage des ressources Amazon Bedrock.

  5. Pour le mode de provisionnement, sélectionnez Par unités de modèle

  6. Pour la section Durée de l'engagement et unités modèles, procédez comme suit :

    1. Dans la section Sélectionner la durée d'engagement, sélectionnez la durée pendant laquelle vous souhaitez vous engager à utiliser le débit provisionné.

    2. Dans le champ Unités du modèle, entrez le nombre souhaité d'unités du modèle (MUs). Si vous fournissez un modèle avec engagement, vous devez d'abord vous rendre au centre d'AWSassistance pour demander une augmentation du nombre de modèles MUs que vous pouvez acheter.

  7. Choisissez Acheter du débit provisionné.

  8. Consultez la note qui apparaît et confirmez la durée et le prix de l’engagement en cochant la case correspondante. Choisissez ensuite Confirmer l’achat.

  9. La console affiche la page de présentation du débit provisionné. L'état du débit provisionné dans la table Débit provisionné devient Création. Lorsque le débit provisionné est terminé d'être créé, le statut devient En service. Si la mise à jour échoue, le statut devient Failed.

API

Pour acheter un débit provisionné, envoyez une CreateProvisionedModelThroughputdemande avec un point de terminaison du plan de contrôle Amazon Bedrock.

Pour en savoir plus sur le contenu du corps de la demande et les paramètres que vous devez fournir pour créer un débit provisionné par unités de modèle, consultez CreateProvisionedModelThroughputle manuel Amazon Bedrock API Reference.

Note

Pour connaître les modèles de base pour lesquels vous pouvez acheter du débit provisionné sans engagement, consultez la documentation des modèles pris en charge.

Dans la AWS GovCloud (US) région, vous ne pouvez acheter du débit provisionné que pour des modèles personnalisés sans engagement.

La réponse renvoie un provisionedModelArn que vous pouvez utiliser comme inférence modelId dans le modèle. Pour vérifier si le débit provisionné est prêt à être utilisé, envoyez une GetProvisionedModelThroughputdemande et vérifiez que l'état est bien le cas. InService Si la mise à jour échoue, son statut sera Failed le même et la GetProvisionedModelThroughputréponse contiendra unfailureMessage.

Consulter des exemples de code