使用 Converse API 操作进行对话 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用 Converse API 操作进行对话

您可以使用 Amazon Bedrock Converse API 创建对话应用程序,用于向/从 Amazon Bedrock 模型发送/接收消息。例如,您可以创建一个聊天机器人,该机器人可以在多个回合中保持对话,并使用适合您需求的角色或语气自定义,例如有用的技术支持助理。

要使用 Converse API,您可以使用 ConverseConverseStream(用于流式传输响应)操作向模型发送消息。可以对对话应用程序使用现有的基本推理操作(InvokeModelInvokeModelWithResponseStream)。但是,建议使用 Converse API,因为它提供一致的 API,适用于所有支持消息的 Amazon Bedrock 模型。这意味着您只需编写一次代码,即可将其用于不同的模型。如果模型具有唯一的推理参数,Converse API 还允许您在模型特定的结构中传递这些唯一参数。

您可以使用 Converse API 在应用程序中实施工具使用护栏

注意

借助 Mistral AI 和 Meta 模型,Converse API 会将您的输入嵌入到特定于模型的提示模板中,从而启用对话。

有关代码示例,请参阅以下内容: