构建 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

构建

要开始使用 Amazon Bedrock 构建模型,请先从您的用例开始。然后选择一个 API 和一个端点,然后开始以编程方式使用模型。

根据您的用例选择 API

Amazon Bedrock 提供了四种主要的 API 模式来在 Amazon Bedrock 中执行推理。回应聊天完成、调用交谈。阅读有关 APIs 支持的更多信息。

场景 推荐的 API
从兼容 OpenAI API 的端点迁移 使用兼容 OpenAI APIs:响应 API 或聊天完成 API
使用与 OpenAI 兼容端点不兼容的模型 使用原生 Amazon Bedrock APIs:C onverse 和 Inv oke 阅读更多有关为您的用例选择合适 APIs 的方法的信息。

为 Amazon Bedrock 选择端点

确定要使用哪个 API 后,就可以确定要用于以编程方式与 Amazon Bedrock 进行交互的终端节点。阅读有关 APIs 支持的更多信息。

Endpoint 支持的 APIs
bedrock-mantle.* 响应 API聊天完成 API
bedrock-runtime.* 调用 APIConverse API聊天完成 API

选择模型

您可以根据您使用的终端节点查看 Amazon Bedrock 支持的型号列表。

Endpoint API 描述
bedrock-runtime.* ListFoundationModels 返回 Bedrock 中所有可用基础模型的列表。提供有关多个模型的摘要信息,包括其模型 IDs、提供商名称、支持的模式(文本、图像、嵌入)、 input/output 格式以及它们是否支持流媒体或自定义。使用 GetFoundationModel API 通过特定基础模型的模型 ID 检索有关该模型的详细信息。
bedrock-mantle.* client.models.list 兼容 OpenAI 的 API,用于发现可用模型。检索可用于响应 API 和聊天完成 API 的模型列表。