Amazon Bedrock モデルのプロビジョンドスループットを購入する - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock モデルのプロビジョンドスループットを購入する

Amazon Bedrock には、トークン単位とモデル単位の 2 種類のプロビジョンドスループットがあります。購入するプロビジョンドスループットのタイプについては、次の手順を参照してください。

2 種類のプロビジョンドスループットの違いの詳細については、「」を参照してくださいAmazon Bedrock のプロビジョンドスループットでモデル呼び出し容量を増やす。

モデルのモデル単位によるプロビジョンドスループットを購入するときは、モデルのコミットメントのレベルと、割り当てるモデル単位 (MUs) の数を指定します。MU クォータについては、「AWS 全般のリファレンス」の「Amazon Bedrock エンドポイントとクォータ」を参照してください。プロビジョンドスループット (コミットメントの有無にかかわらず) を購入する前に、まず AWSサポートセンターにアクセスして、アカウントがプロビジョンドスループット間で分散されるように MUs をリクエストする必要があります。リクエストが付与されたら、プロビジョンドスループットを購入できます。

注記

プロビジョンドスループットを購入した後、カスタムモデルに関連付けられている場合は、次のいずれかのオプションを指定してモデルを変更できます。

  • カスタムモデルがカスタマイズされたベースモデル

  • カスタムモデルと同じベースモデルからカスタマイズされた別のカスタムモデル

カスタムモデルに関連付けられたプロビジョンドスループットの関連付けられたモデルのみを変更できます。

モデルのプロビジョンドスループットを購入する方法については、任意の方法のタブを選択し、ステップに従います。

Console

  1. Amazon Bedrock コンソールを使用するアクセス許可を持つ IAM ID AWS マネジメントコンソールを使用して にサインインします。Amazon Bedrock コンソール (https://console.aws.amazon.com/bedrock) を開きます。

  2. 左側のナビゲーションペインで [プロビジョンドスループット] を選択します。

  3. [プロビジョンドスループット] セクションで、プロビジョンドスループットを購入] を選択します。

  4. [プロビジョンドスループットの詳細] セクションでは、以下を実行します。

    1. [プロビジョンドスループット名] フィールドに、プロビジョンドスループットの名前を入力します。

    2. [モデルを選択] で、ベースモデルプロバイダーまたはカスタムモデルカテゴリを選択します。次に、スループットをプロビジョニングするモデルを選択します。

      注記

      コミットメントなしでプロビジョンドスループットを購入できるベースモデルを確認するには、サポートされているモデルのドキュメントを参照してください。

      AWS GovCloud (US)リージョンでは、コミットメントなしでカスタムモデルのプロビジョンドスループットのみを購入できます。

    3. (オプション) タグをプロビジョンドスループットに関連付けるには、[タグ] セクションを展開し、[新しいタグを追加] を選択します。詳細については、「Amazon Bedrock リソースにタグ付け」を参照してください。

  5. プロビジョニングモードの場合は、モデル単位で を選択します。

  6. [コミットメント期間とモデルユニット] セクションで、以下を実行します。

    1. [コミットメント期間を選択] セクションで、プロビジョンドスループットの使用をコミットする期間を選択します。

    2. [モデルユニット] フィールドに、必要なモデルユニット (MU) の数を入力します。コミットメントのあるモデルをプロビジョニングする場合は、まず AWS サポートセンターにアクセスして、購入できる MU 数の増加をリクエストする必要があります。

  7. [プロビジョンドスループットを購入] を選択します。

  8. 表示される注記を確認し、チェックボックスを選択してコミットメント期間と価格を確認します。次に [購入を確認する] を選択します。

  9. コンソールに [プロビジョンドスループット] の概要ページが表示されます。プロビジョンドスループットテーブルのプロビジョンドスループットの [ステータス] は [作成中] になります。プロビジョンドスループットの作成が完了すると、[ステータス] は [サービス中] になります。更新が失敗すると、[ステータス] は [失敗] になります。

API

プロビジョンドスループットを購入するには、Amazon Bedrock コントロールプレーンエンドポイントを使用して CreateProvisionedModelThroughput リクエストを送信します。

リクエスト本文の内容と、モデル単位によるプロビジョンドスループットを作成するために指定する必要があるパラメータの詳細については、「Amazon Bedrock API リファレンス」のCreateProvisionedModelThroughput」を参照してください。

注記

コミットメントなしでプロビジョンドスループットを購入できるベースモデルを確認するには、サポートされているモデルのドキュメントを参照してください。

AWS GovCloud (US)リージョンでは、コミットメントなしでカスタムモデルのプロビジョンドスループットのみを購入できます。

レスポンスは provisionedModelArn を返し、それをモデル推論で modelId として使用できます。プロビジョンドスループットの使用準備が整ったことを確認するには、GetProvisionedModelThroughput リクエストを送信し、ステータスが「InService」であることを確認します。更新が失敗した場合、ステータスは Failed になり、GetProvisionedModelThroughput レスポンスには failureMessage が含まれます。

コード例を見る