本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
模型可用性與相容性
Amazon Bedrock 支援來自領導供應商的各種基礎模型。本章說明每個模型的可用位置、哪些 APIs和端點支援它、如何存取它,以及如何在整個生命週期中管理模型。如需所有可用模型及其功能和定價的概觀,請參閱 模型一目了然。
在本章中
各模型的 API 相容性 – 每個模型支援的 APIs(InvokeModel、Converse、聊天完成、回應、訊息)。
依模型的端點可用性 – 每個模型託管的端點 (
bedrock-runtime、bedrock-mantle)。依模型的區域可用性 – 每個模型都可以使用的 AWS 區域和跨區域推論設定檔。
依端點的區域可用性 – 可使用每個 Amazon Bedrock 端點 (
bedrock-runtime、bedrock-mantle) 的 AWS 區域。取得模型清單 – 以程式設計方式列出和探索每個端點上可用的模型。
模型生命週期 – 模型版本控制、棄用時間表和遷移指引。
請求存取模型 – 請求和管理對帳戶中模型的存取。
使用產品 ID 條件索引鍵來控制存取 – 使用 IAM 產品 ID 條件索引鍵來控制使用者可以叫用哪些模型。
選擇模型
選擇模型時,請考慮:
功能 – 模態 (文字、影像、內嵌)、內容視窗和工具使用支援。
端點和 API – 模型位於
bedrock-runtime、bedrock-mantle或兩者,以及其支援哪些 APIs。請參閱 Amazon Bedrock 支援的端點。區域 – 模型是否在您操作的 AWS 區域中提供,或透過跨區域推論設定檔提供。
成本和輸送量 – 隨需定價與 的比較使用 Amazon Bedrock 中的佈建輸送量增加模型調用容量。