購買自訂模型的佈建輸送量。 - Amazon Bedrock

購買自訂模型的佈建輸送量。

若要使用具有專用運算容量和保證輸送量的自訂模型，您可以為其購買佈建輸送量。然後，您可以使用產生的佈建模型進行推論。如需佈建輸送量的詳細資訊，請參閱佈建輸送量。

Console
購買自訂模型的佈建輸送量。

  1. 使用具有 Amazon Bedrock 主控台使用許可的 IAM 身分登入AWS 管理主控台。接著，開啟位於 https://console.aws.amazon.com/bedrock 的 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中，選擇調校下的自訂模型。

  3. 在模型索引標籤中，選擇您要購買佈建輸送量之模型旁的選項按鈕，或選取模型名稱以瀏覽至詳細資訊頁面。

  4. 選取購買佈建的輸送量。

  5. 如需詳細資訊，請遵循佈建輸送量文件中的步驟。

  6. 為自訂模型購買佈建輸送量後，請遵循佈建輸送量使用文件中的步驟。

執行支援自訂模型用量的任何操作時，您會在模型選取功能表中將自訂模型視為選項。

API

若要購買自訂模型的佈建輸送量，請依照佈建輸送量文件中的步驟，使用 Amazon Bedrock 控制平面端點傳送 CreateProvisionedModelThroughput (請參閱連結，取得請求和回應格式和欄位詳細資訊) 請求。使用自訂模型的名稱或 ARN 作為 modelId。回應會傳回 provisionedModelArn，您可以在提出 InvokeModel 或 InvokeModelWithResponseStream 請求時將其用作 modelId。

查看程式碼範例