Amazon Bedrock 护栏的使用案例 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon Bedrock 护栏的使用案例

创建护栏后，您可以通过以下功能进行应用：

  • 模型推理 – 在模型上运行推理时，对提交的提示和生成的响应应用护栏。

  • 代理 – 将护栏与代理关联，以将护栏应用于发送给代理的提示和从代理返回的响应。

  • 知识库 – 在查询知识库并从中生成响应时应用护栏。

  • 工作流 – 向流中的提示节点或知识库节点添加护栏，将其应用于这些节点的输入和输出。

下表描述了如何使用 AWS 管理控制台或 Amazon Bedrock API 为每个这些功能添加护栏。

应用场景 控制台 API
模型推理 在使用演练场时选择护栏。 在 InvokeModel 或 InvokeModelWithResponseStream 请求的标头中指定，或者在 Converse 或 ConverseStream 请求的正文中添加 guardrailConfig 字段。
与代理关联 创建或更新代理时，在代理生成器的护栏详细信息部分中指定。 在 CreateAgent 或 UpdateAgent 请求的正文中添加 guardrailConfiguration 字段。
在查询知识库时使用 按照查询配置护栏部分中的步骤进行操作。在设置配置时添加护栏。 在 RetrieveAndGenerate 请求的正文中添加一个 guardrailConfiguration 字段。
包含在流的提示节点中 创建或更新流时，请选择提示节点并在配置部分指定护栏。 在 CreateFlow 或 UpdateFlow 请求的 nodes 字段中定义提示节点时，请在 PromptFlowNodeConfiguration 中添加 guardrailConfiguration 字段。
包含在流的知识库节点中 创建或更新工作流时，请选择知识库节点并在配置部分指定护栏。 在 CreateFlow 或 UpdateFlow 请求的 nodes 字段中定义知识库节点时，请在 KnowledgeBaseFlowNodeConfiguration 中添加 guardrailConfiguration 字段。

这一部分介绍了如何在模型推理和 Amazon Bedrock API 中使用护栏。您可以使用基本推理操作（InvokeModel 和 InvokeModelWithResponseStream）和 Converse API（Converse 和 ConverseStream）。通过这两组操作，您可以在同步和流式模型推理中使用护栏。您还可以有选择地评估用户输入，并配置流式响应行为。

主题