本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
基础模型的推理请求参数和响应字段
本部分中的主题介绍了 Amazon Bedrock 提供的模型的请求参数和响应字段。当您使用模型调用(InvokeModel、InvokeModelWithResponseStream、Converse 和 ConverseStream)API 操作对模型进行推理调用时,需根据使用的模型添加请求参数。
如果您已创建自定义模型,请使用与用于自定义该模型的基础模型相同的推理参数。
如果您要将自定义模型导入 Amazon Bedrock,请确保使用与您所导入的自定义模型相关说明中提及的相同推理参数。如果您使用的推理参数与此文档中提及的该模型的推理参数不匹配,这些参数将被忽略。
在查看不同模型的模型参数之前,您应先阅读以下章节,了解什么是模型推理:使用模型推理提交提示并生成响应。
有关 Amazon Bedrock 中不同模型的更多信息,请参阅以下页面:
-
有关包含用于模型调用 API 操作的模型及其 ID、支持它们的区域以及它们支持的常规功能的表,请参阅 Amazon Bedrock 中支持的根基模型。
-
有关支持每种模型的 Amazon Bedrock 区域的表,请参阅 Amazon Bedroc AWS 区域 k 中的模型支持。
-
有关每种模型的支持的 Amazon Bedrock 功能的表,请参阅 Amazon Bedrock 中按功能划分的模型支持。
-
要查看 Converse API(
Converse和ConverseStream)是否支持特定的模型,请参阅支持的模型和模型功能。 -
使用模型进行推理调用时,您可以为模型创建提示。有关为 Amazon Bedrock 支持的模型创建提示的一般信息,请参阅 提示工程概念。
-
有关代码示例,请参阅 使用 Amazon Bedrock 的代码示例 AWS SDKs。
选择一个主题可了解该提供者提供的模型及其参数。