本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
AnthropicClaude 模型
本部分介绍了 Anthropic Claude 模型的请求参数和响应字段。使用此信息通过InvokeModel和 InvokeModelWithResponseStream(流式传输)操作对AnthropicClaude模型进行推理调用。本部分还包括 Python 代码示例,展示了如何调用 Anthropic Claude 模型。要在推理操作中使用模型,您需要相关模型的模型 ID。要获取模型 ID,请参阅 Amazon Bedrock 中支持的根基模型。有些模型也可以使用 ConverseAPI。要检查 Converse API 是否支持特定AnthropicClaude模型,请参阅支持的模型和模型功能。有关更多代码示例,请参阅 使用 Amazon Bedrock 的代码示例 AWS SDKs。
Amazon Bedrock 中的基础模型支持输入和输出模态,这些模态因模型而异。要查看 Anthropic Claude 模型支持的模态,请参阅 Amazon Bedrock 中支持的根基模型。要查看 Anthropic Claude 模型支持哪些 Amazon Bedrock 功能,请参阅 Amazon Bedrock 中支持的根基模型。要查看AnthropicClaude模型在哪些 AWS 区域可用,请参阅Amazon Bedrock 中支持的根基模型。
使用 Anthropic Claude 模型进行推理调用时,您可以为模型创建提示。有关为 Amazon Bedrock 支持的模型创建提示的一般信息,请参阅 提示工程概念。有关 Anthropic Claude 的特定提示信息,请参阅 AnthropicClaude 提示工程指南
您可以使用 Amazon Bedrock 发送Anthropic Claude Text Completions API 或 Anthropic Claude Messages API 推断请求。
您可以使用消息 API 创建会话应用程序,如虚拟助手或指导应用程序。将文本补全 API 用于单轮文本生成应用程序。例如,为博客文章生成文本或汇总用户提供的文本。
AnthropicClaude模型支持使用 XML 标签来构造和描述您的提示。例如,你可以在提示符中的示例周围加上<examples>
标签。请使用描述性标签名称以获得最佳结果。有关更多信息,请参阅 Anthropi c 用户指南中的使用
AnthropicClaude模型支持使用 PDF 文档处理和引用。引文提供了对模型在答复中使用的文档中信息的引用。
注意
要在推理调用中使用系统提示,您必须使用以下模型之一:
-
Anthropic Claude 3.5 Sonnet
-
Anthropic Claude 版本 2.1
-
AnthropicClaude 3型号或更高版本,例如 Anthropic Claude 3.7 Sonnet
有关创建系统提示的信息,请参阅AnthropicClaude文档中的为克劳德提供带有系统提示的角色
为避免 Anthropic Claude 版本 2.1 出现超时情况,我们建议将 prompt
字段中的输入词元数量限制为 180K。我们希望尽快解决这个超时问题。
在推理调用中,请在 body
字段中填写一个 JSON 对象,该对象应符合您要调用的类型,即 Anthropic Claude Text Completions API 或 Anthropic Claude Messages API。