Amazon Bedrock 护栏的使用案例 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon Bedrock 护栏的使用案例

创建护栏后，您可以通过以下功能进行应用：

  • 模型推理 – 在模型上运行推理时，对提交的提示和生成的响应应用护栏。

  • 代理 – 将护栏与代理关联，以将护栏应用于发送给代理的提示和从代理返回的响应。

  • 知识库 – 在查询知识库并从中生成响应时应用护栏。

  • 工作流 – 向流中的提示节点或知识库节点添加护栏，将其应用于这些节点的输入和输出。

下表描述了如何使用 AWS 管理控制台 或 Amazon Bedrock API 为每项功能添加护栏。

使用案例 控制台 API
模型推理 在使用演练场时选择护栏。 在InvokeModel或InvokeModelWithResponseStream请求的标题中指定，或者在 C onverse 或ConverseStream请求正文的guardrailConfig字段中包含该字段。
与代理关联 创建或更新代理时，在代理生成器的护栏详细信息部分中指定。 在 CreateAgent 或 UpdateAgent 请求的正文中添加 guardrailConfiguration 字段。
在查询知识库时使用 按照查询配置护栏部分中的步骤进行操作。在设置配置时添加护栏。 在 RetrieveAndGenerate 请求的正文中添加一个 guardrailConfiguration 字段。
包含在流的提示节点中 创建或更新流时，请选择提示节点并在配置部分指定护栏。 在CreateFlow或UpdateFlow请求的nodes字段中定义提示节点时，请在中加入一个guardrailConfiguration字段PromptFlowNodeConfiguration。
包含在流的知识库节点中 创建或更新工作流时，请选择知识库节点并在配置部分指定护栏。 在CreateFlow或UpdateFlow请求的nodes字段中定义知识库节点时，请在中包含一个guardrailConfiguration字段KnowledgeBaseFlowNodeConfiguration。

这一部分介绍了如何在模型推理和 Amazon Bedrock API 中使用护栏。您可以使用基本推理运算（InvokeModel和 InvokeModelWithResponseStream）和 Converse API（Converse 和 ConverseStream）。通过这两组操作，您可以在同步和流式模型推理中使用护栏。您还可以有选择地评估用户输入，并配置流式响应行为。

主题