Achetez un débit provisionné pour un modèle personnalisé - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Achetez un débit provisionné pour un modèle personnalisé

Pour utiliser un modèle personnalisé doté d'une capacité de calcul dédiée et d'un débit garanti, vous pouvez acheter le débit provisionné correspondant. Vous pouvez ensuite utiliser le modèle provisionné obtenu à des fins d'inférence. Pour plus d'informations sur le débit provisionné, consultez. Augmentez la capacité d'invocation des modèles grâce au débit provisionné dans Amazon Bedrock

Console
Pour acheter du débit provisionné pour un modèle personnalisé.

  1. Connectez-vous au AWS Management Console avec une identité IAM autorisée à utiliser la console Amazon Bedrock. Ouvrez ensuite la console Amazon Bedrock à https://console.aws.amazon.com/bedrock/l'adresse.

  2. Dans le volet de navigation de gauche, choisissez Modèles personnalisés sous Modèles de base.

  3. Dans l'onglet Modèles, cliquez sur le bouton radio à côté du modèle pour lequel vous souhaitez acheter Provisioned Throughput ou sélectionnez le nom du modèle pour accéder à la page de détails.

  4. Sélectionnez Acheter un débit provisionné.

  5. Pour plus de détails, suivez les étapes indiquées surAcheter un débit provisionné pour un modèle Amazon Bedrock.

  6. Après avoir acheté Provisioned Throughput pour votre modèle personnalisé, suivez les étapes décrites dans. Utiliser un débit provisionné avec une ressource Amazon Bedrock

Lorsque vous effectuez une opération prenant en charge l'utilisation de modèles personnalisés, vous verrez votre modèle personnalisé en option dans le menu de sélection du modèle.

API

Pour acheter du débit provisionné pour un modèle personnalisé, suivez les étapes décrites dans la section pour envoyer une demande CreateProvisionedModelThroughput(voir le lien pour les formats de demande et de réponse et les détails des champs) avec un point de terminaison du plan de contrôle Amazon Bedrock. Acheter un débit provisionné pour un modèle Amazon Bedrock Utilisez le nom ou l'ARN de votre modèle personnalisé commemodelId. La réponse renvoie un provisionedModelArn que vous pouvez utiliser modelId lorsque vous faites une InvokeModelWithResponseStreamdemande InvokeModelOR.

Voir des exemples de code