View a markdown version of this page

管理 Amazon Bedrock 成本 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

管理 Amazon Bedrock 成本

使用 Amazon Bedrock,您可以將推論成本歸因於特定使用者、團隊和應用程式、設定預算以防止成本超支,並透過 AWS 帳單工具分析您的用量。Amazon Bedrock 支援多種您可以合併的成本歸因方法。例如,針對每個使用者可見性使用 IAM 主體屬性,以及針對每個應用程式標記的專案。

選擇合適方案

您選擇的成本歸因方法取決於您使用的 Amazon Bedrock APIs 以及您需要的精細程度。

我想要將成本歸因於... 使用 支援的 API bedrock-runtime bedrock-mantle
Identity (IAM 使用者、IAM 角色和聯合身分) IAM 主體屬性 InvokeModel/Converse/聊天完成 Yes No
具有標籤的應用程式或團隊 專案 (推薦) 回應/聊天完成 No Yes
具有標籤的應用程式或團隊 應用程式推論設定檔 InvokeModel/Converse/聊天完成 Yes No

Amazon Bedrock 定價的運作方式

Amazon Bedrock 成本由模型推論驅動。每個 API 呼叫都會處理權杖,這是模型讀取和產生的文字單位。您的成本取決於:

  • 模型。不同的模型具有不同的每個字符費率。

  • 字符類型。輸入字符、輸出字符、快取讀取字符和快取寫入字符各自分別定價。

  • 路由。跨區域推論的定價與區域內請求不同。

  • 推論層。隨需、佈建輸送量和批次推論各有不同的定價結構。如需詳細資訊,請參閱容量和效能

如需目前定價,請參閱 Amazon Bedrock 定價

如需透過選擇正確的方案來最佳化成本的指引,請參閱 容量和效能