購買自訂模型的佈建輸送量 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

購買自訂模型的佈建輸送量

若要使用具有專用運算容量和保證輸送量的自訂模型，您可以為其購買佈建輸送量。然後，您可以使用產生的佈建模型進行推論。如需佈建輸送量的詳細資訊，請參閱 佈建輸送量。

Console
購買自訂模型的佈建輸送量。

  1. AWS Management Console 使用具有使用 Amazon Bedrock 主控台之許可的 IAM 身分登入 。然後，開啟位於 https：//https://console.aws.amazon.com/bedrock 的 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中，選擇基礎模型下的自訂模型。

  3. 在模型索引標籤中，選擇您要購買佈建輸送量之模型旁的選項按鈕，或選取模型名稱以導覽至詳細資訊頁面。

  4. 選取購買佈建輸送量。

  5. 如需詳細資訊，請遵循佈建輸送量文件中的步驟。

  6. 為您的自訂模型購買佈建輸送量後，請遵循佈建輸送量使用文件中的步驟。

當您執行支援使用自訂模型的任何操作時，您會在模型選取選單中將自訂模型視為選項。

API

若要購買自訂模型的佈建輸送量，請依照佈建輸送量文件中的步驟，使用 Amazon Bedrock 控制平面端點傳送 CreateProvisionedModelThroughput （請參閱請求和回應格式和欄位詳細資訊的連結） 請求。使用自訂模型的名稱或 ARN 做為 modelId。回應會傳回provisionedModelArn您在提出 InvokeModel 或 InvokeModelWithResponseStream 請求modelId時，可用來做為 的 。

請參閱程式碼範例