カスタムモデルのプロビジョンドスループットを購入する - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

カスタムモデルのプロビジョンドスループットを購入する

専用のコンピューティング容量とスループットが保証されたカスタムモデルを使用するには、プロビジョンドスループットを購入できます。その後、結果のプロビジョニングされたモデルを推論に使用できます。プロビジョンドスループットの詳細については、「Amazon Bedrock のプロビジョンドスループットでモデル呼び出し容量を増やす」を参照してください。

Console
カスタムモデルのプロビジョンドスループットを購入するには

  1. Amazon Bedrock コンソールを使用するアクセス許可を持つ IAM ID AWS Management Console を使用して にサインインします。次に、https://console.aws.amazon.com/bedrock/ で Amazon Bedrock コンソールを開きます。

  2. 左側のナビゲーションペインの [基盤モデル] で [カスタムモデル] を選択します。

  3. [モデル] タブで、プロビジョンドスループットを購入するモデルの横にあるラジオボタンを選択するか、モデル名を選択して詳細ページに遷移します。

  4. [プロビジョンドスループットを購入] を選択します。

  5. 詳細については、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行します。

  6. カスタムモデルにプロビジョンドスループットを購入後、Amazon Bedrock リソースでプロビジョンドスループットを使用する の手順を実行します。

この選択に応じてカスタムジョブにフィードするデータセットの形式が決まります。

API

カスタムモデルにプロビジョンドスループットを購入するには、Amazon Bedrock モデルのプロビジョンドスループットを購入する の手順を実行して、Amazon Bedrock コントロールプレーンエンドポイントを使用して、CreateProvisionedModelThroughput リクエスト (リクエストとレスポンスの形式とフィールドの詳細についてはリンクを参照) を送信します。カスタムモデルの名前または ARN はmodelId として使用します。レスポンスは、InvokeModel または InvokeModelWithResponseStream リクエストを行う際に modelId として使用できる provisionedModelArn を返します。

コード例を見る