本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

通过在 Amazon Bedrock Guardrails 中添加自动推理检查来提高准确性

Amazon Bedrock Guardrails 中的自动推理检查根据您定义的政策以数学方式验证自然语言内容，确保严格遵守您的护栏。这些检查可以帮助在有害或不合规的内容到达用户之前系统地将其屏蔽。与模式匹配方法不同，Automated Reasoning 可提供更高的准确性和更少的误报，尤其是在复杂的策略要求下。对于优先考虑精度的客户，可以定制策略规则，通过清晰的逻辑陈述来提高护栏的有效性。

大型语言模型 (LLMs) 面临的一个关键挑战是确保其响应的准确性。未经验证，有时 LLMs 会产生幻觉或不准确的信息，从而破坏信任。

Amazon Bedrock Guardrails 中的自动推理检查通过使用数学技术来解决这个问题：

当您需要在以下方面证明法学硕士回应的事实依据时，此功能特别有价值：

Amazon Bedrock Guardrails 中的自动推理检查无法抵御即时注入攻击。这些检查会准确验证您发送给它们的内容——如果提供恶意或被操纵的内容作为输入，则将按原样对该内容进行验证（垃圾输入、垃圾输出）。要检测和阻止提示注入攻击，请将内容过滤器与自动推理检查结合使用。

自动推理仅分析和检测与自动推理策略相关的文本。它将忽略其余内容，也无法告诉开发者答案是否偏离主题。如果您需要检测题外响应，请使用其他防护组件，例如主题策略。

限制和注意事项

在实施自动推理检查之前，请注意以下重要限制：

最佳实践

请遵循以下最佳实践，最大限度地提高自动推理策略的有效性：

定价

Amazon Bedrock Guardrails 中的自动推理检查是根据处理的验证请求数量收取的。有关当前定价信息，请参阅 Amazon Bedrock 定价页面。

无论结果如何（例如，VALID、INVALID、TRANSLATION_MIBLITY），每个验证请求都会产生费用。要优化成本，请执行以下操作：

策略操作的跨区域推理

自动推理利用跨区域推理来优化策略创建和测试操作的性能和可用性。特定的 API 操作会自动将处理分散到您的地理边界内的 AWS 区域，以确保可靠的服务交付。

以下自动推理 API 操作采用跨区域推理：

这些操作调用大型语言模型从源文档中提取形式逻辑规则，并将自然语言结构转换为结构化逻辑表示形式。为确保最佳性能和可用性，请求处理根据以下地理路由进行分配：

跨区域推理可以透明地运行，无需客户配置。无论处理请求的特定区域在哪里，API 功能都保持一致。

要在 Amazon Bedrock Guardrails 中使用自动推理检查，请按照以下步骤操作：

工作流程可以可视化为：

Source Document → Extracted Policy → Testing → Deployment → Runtime Validation
    (rules)        (formal logic)    (verify)   (activate)    (check responses)
  

策略

自动推理策略是准确性验证的基础，它包含从源文档中自动提取的逻辑规则和变量。这些策略可作为业务规则的数学表示，使系统能够系统地验证基础模型响应是否符合您定义的约束。要在应用程序中执行自动推理检查，您需要将护栏配置为使用与您的特定域和验证要求相匹配的策略。

规则

规则是自动推理从您的源文档中提取的逻辑。这些语句可能写成 if-then 语句。以下是规则格式的一些示例：

if <premise>, then <claim>

<premise> is true

变量

变量代表自动推理策略中的概念，在将自然语言转换为形式逻辑时，可以为其分配值。您的策略规则定义了对这些变量的有效值或无效值的限制。

变量有名称、类型和描述。例如，关于雇员福利的政策可能有一个名为 “employe_age”、类型为 “整数” 和描述为 “雇员年龄” 的变量。在应用程序的提示中，可以根据自然语言为该变量分配一个像 25 这样的值。

例如，人力资源政策中的is_full_time变量可能有一个描述，上面写着 “每周工作超过20小时的员工”，这是源文档的直接引用。使用聊天机器人时，用户更有可能说 “我是全职的”，而不是 “我每周工作超过20个小时”。

从自然语言到形式逻辑的翻译的准确性在很大程度上取决于变量描述的质量。虽然翻译完成后推理过程是合理的，但清晰而全面的变量描述可确保正确解释用户提示。如果没有完整的变量描述，Automated Reasoning 可能会返回，NO_DATA因为它无法将输入的自然语言转换为其形式逻辑表示形式。

变量描述要考虑到这样的场景，这一点很重要。全面的变量描述可能会指出：“每周工作超过20小时的员工是全职员工。用户会说全职将此值设置为 true，或者说兼职将其设置为 false。”

预定义的变量类型

下表描述了您的策略可以具有的预定义变量类型。