Amazon Bedrock 基础模型信息 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon Bedrock 基础模型信息

基础模型是一种具有大量参数并基于大量不同数据进行训练的人工智能模型。基础模型可以针对各种应用场景生成各种响应。基础模型可以生成文本或图像，也可以将输入转换为嵌入式内容。本节提供有关您可以在 Amazon Bedrock 中使用的基础模型 (FM) 的信息，例如模型支持的功能以及可用的模型。 AWS 区域 有关 Amazon Bedrock 支持的基础模型的信息，请参阅 Amazon Bedrock 中支持的根基模型。

默认情况下，已启用对所有 Amazon Bedrock 基础模型的访问权限。要开始使用，只需从 Amazon Bedrock 控制台的模型目录中选择一个模型，然后在操场上将其打开即可。对于Anthropic模型，首次使用的用户可能需要先提交用例详细信息，然后才能访问模型。选择模型后，您可以通过以下方式使用它。

  • 通过向模型发送提示并生成响应来运行推理。Playgroun ds 中提供了一个用户友好的界面， AWS Management Console 用于生成文本、图像或聊天。请参阅输出模式列，确定可以在每个操场中使用的模型。

    注意

    控制台操场不支持在嵌入模型上运行推理。使用 API 对嵌入模型运行推理。

  • 评估模型以比较输出并确定最适合您的应用场景的模型。

  • 借助嵌入模型设置知识库。然后使用文本模型生成对查询的响应。

  • 创建代理并使用模型对提示运行推理以进行编排。

  • 通过提供训练和验证数据来自定义模型，以根据您的应用场景调整模型参数。要使用自定义模型，必须为其购买预调配吞吐量。

  • 为模型购买预调配吞吐量以增加其吞吐量。

要将基础模型与 Amazon Bedrock API 配合使用，您需要确定要使用的相应模型 ID。请参阅下表，确定在哪里查找您需要使用的模型 ID。

应用场景 如何查找模型 ID
使用基础模型 在基础型号 IDs 图表中查找 ID
使用跨区域推理配置文件 在支持的推理配置文件页面中查找 ID
为基础模型购买预调配吞吐量 在模型中查找 IDs 预配置吞吐量图表的 ID，并将其用作CreateProvisionedModelThroughput请求modelId中的。
为自定义模型购买预调配吞吐量 在请求中使用定制模型或其 ARN modelId 的CreateProvisionedModelThroughput名称。
使用预调配模型 创建预调配吞吐量后，它将返回 provisionedModelArn。此 ARN 是模型 ID。
使用自定义模型 为自定义模型购买预调配吞吐量，并使用返回的 provisionedModelArn 作为模型 ID。

有关示例代码，请参阅您正在使用的功能的文档以及使用 Amazon Bedrock 的代码示例 AWS SDKs。

主题