本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
模型可用&性兼容性
Amazon Bedrock 支持来自领先提供商的各种基础模型。本章解释了每种模型在哪里可用、哪些 API 和端点支持它、如何访问它以及如何在模型的整个生命周期中管理模型。有关所有可用型号及其功能和定价的概述,请参阅模型一览。
提示
对于新应用程序,我们推荐使用bedrock-runtime终端节点。有关详细信息,请参阅亚马逊 Bedrock 支持的终端节点。
在本章中
按型号划分的 API 兼容性— 每个模型支持哪些 API(InvokeModel对话、聊天完成、回复、消息)。
各型号的端点可用性— 每个模型托管在哪些端点(
bedrock-runtime,bedrock-mantle)上。按型号划分的区域可用性— 每个模型都可用的 AWS 区域和跨区域推理概况。
终端节点的区域可用性— 每个亚马逊 Bedrock 终端节点 (
bedrock-runtime,bedrock-mantle) 都可用的 AWS 区域。获取模型列表— 以编程方式列出和发现每个端点上的可用模型。
模型生命周期— 模型版本控制、弃用时间表和迁移指南。
申请访问模型— 请求和管理对您账户中模型的访问权限。
使用产品 ID 条件键来控制访问权限— 使用 IAM 产品 ID 条件密钥来控制用户可以调用哪些模型。
选择型号
在选择模型时,请考虑:
功能 — 模式(文本、图像、嵌入)、上下文窗口和工具使用支持。
终端节点和 API — 模型是否开启
bedrock-runtime或两者兼而有之,以及它支持哪些 API。bedrock-mantle请参阅亚马逊 Bedrock 支持的终端节点。区域 — 无论该模型在您运营的 AWS 区域中可用,还是通过跨区域推理配置文件提供。
成本和吞吐量 —按需定价vs利用 Amazon Bedrock 中的预调配吞吐量增加模型调用容量.