計算執行自訂模型的成本 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

計算執行自訂模型的成本

您使用匯入 Amazon Bedrock 的自訂模型執行推論，需支付費用。使用以下資訊來預估執行自訂模型的成本。

自訂模型單位 (CMU) 是 Amazon Bedrock 託管自訂模型單一複本所需的硬體使用率摘要檢視。模型複本代表匯入模型的單一執行個體，已準備好處理推論請求。Amazon Bedrock 會決定模型複製在匯入自訂模型時所需的自訂模型單位數量。隨著推論需求的變化，Amazon Bedrock 可以增加或減少正在執行的模型複本數量。

您可以使用下列公式，使用 CMUs 預估執行自訂模型的成本。

總成本 = 執行中的模型複本數 × 每個複本的 CMUs 數 × 每個 CMU 的計費費率 ((5 分鐘時段數）/60)

  • 執行中模型複本的數量 – 從 Amazon CloudWatch 中的 ModelCopy 指標取得。

  • 每個複本CMUs 數量 – 從 Amazon Bedrock 詳細資訊頁面中的模型詳細資訊頁面取得值。或者，呼叫 GetImportedModel 操作，並從 customModelUnitsPerModelCopy 欄位取得每個副本CMUs 數量。

  • 最低每個 CMU 的帳單費率 – 從 Amazon Bedrock 主控台的模型詳細資訊頁面取得自訂模型單位版本。或者，呼叫 GetImportedModel 操作，並從 customModelUnitsVersion 欄位取得自訂模型單位版本。

    然後，在定價頁面的自訂模型匯入區段中，取得模型版本 （自訂模型單位版本） 的計費費率 （每個自訂模型單位的價格/分鐘*)。 Amazon Bedrock

帳單會從第一次成功的推論呼叫，以 5 分鐘計費時段計費。

如需詳細資訊，請參閱 Amazon Bedrock 定價。