View a markdown version of this page

購買 Amazon Bedrock 模型的佈建輸送量 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

購買 Amazon Bedrock 模型的佈建輸送量

Amazon Bedrock 提供兩種類型的佈建輸送量 - 依權杖和依模型單位。如需您要購買的佈建輸送量類型，請參閱下列說明。

若要進一步了解兩種佈建輸送量類型之間的差異，請參閱 使用 Amazon Bedrock 中的佈建輸送量增加模型調用容量。

當您為模型購買依模型單位的佈建輸送量時，您可以指定其承諾層級，以及要分配的模型單位 (MUs數量。如需 MU 配額，請參閱 中的 Amazon Bedrock 端點和配額AWS 一般參考。在您可以購買佈建輸送量 （有承諾或不承諾） 之前，您必須先造訪AWS支援中心，請求您的帳戶MUs 要在佈建輸送量之間分佈。授予請求後，您可以購買佈建輸送量。

注意

購買佈建輸送量之後，如果其與自訂模型相關聯，您可以指定下列其中一個選項來變更模型：

  • 自訂模型的自訂基礎模型

  • 從與自訂模型相同的基礎模型自訂的另一個自訂模型

您只能變更與自訂模型相關聯之佈建輸送量的相關模型。

若要了解如何購買模型的佈建輸送量，請選擇您偏好方法的索引標籤，然後遵循下列步驟：

Console

  1. AWS 管理主控台使用具有使用 Amazon Bedrock 主控台之許可的 IAM 身分登入 。接著，開啟位於 https://console.aws.amazon.com/bedrock 的 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中選取佈建輸送量。

  3. 在佈建輸送量區段中，選擇購買佈建輸送量。

  4. 針對佈建輸送量詳細資訊區段，執行下列動作：

    1. 在佈建輸送量名稱欄位中，輸入佈建輸送量的名稱。

    2. 在選取模型下，選取基礎模型提供者或自訂模型類別。然後選取要佈建輸送量的模型。

      注意

      若要查看您可以在無需承諾的情況下購買佈建輸送量的基本模型，請參閱支援的模型文件。

      在 AWS GovCloud (US)區域中，您只能為沒有承諾的自訂模型購買佈建輸送量。

    3. （選用） 若要將標籤與您的佈建輸送量建立關聯，請展開標籤區段，然後選擇新增標籤。如需詳細資訊，請參閱標記 Amazon Bedrock 資源。

  5. 針對佈建模式，選取依模型單位

  6. 針對承諾期間和模型單位區段，執行下列動作：

    1. 在選取承諾期限區段中，選取您要承諾使用佈建輸送量的時間量。

    2. 在模型單位欄位中，輸入所需的模型單位 (MUs) 數量。如果您要佈建具有承諾的模型，您必須先造訪AWS支援中心，請求增加您可以購買的 MUs 數量。

  7. 選擇購買佈建輸送量。

  8. 複查出現的備註，並選取核取方塊以確認履約承諾期間與價格。然後選擇確認購買。

  9. 主控台會顯示佈建輸送量概觀頁面。佈建輸送量資料表中佈建輸送量的狀態會變成建立。當佈建輸送量建立完成時，狀態會變成服務中。如果更新失敗，狀態會變成失敗。

API

若要購買佈建輸送量，請使用 Amazon Bedrock 控制平面端點傳送 CreateProvisionedModelThroughput 請求。

若要進一步了解請求內文的內容，以及建立依模型單位佈建輸送量所需的參數，請參閱《Amazon Bedrock API 參考》中的 CreateProvisionedModelThroughput。

注意

若要查看您可以在無需承諾的情況下購買佈建輸送量的基本模型，請參閱支援的模型文件。

在 AWS GovCloud (US)區域中，您只能為沒有承諾的自訂模型購買佈建輸送量。

回應會傳回provisionedModelArn可用於模型推論modelId的 。若要檢查佈建輸送量何時可供使用，請傳送 GetProvisionedModelThroughput 請求，並檢查狀態是否為 InService。如果更新失敗，其狀態將為 Failed，GetProvisionedModelThroughput 回應將包含 failureMessage。

查看程式碼範例