本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

使用上下文接地检查来筛选响应中的幻觉

提供引用源和用户查询时，Amazon Bedrock 护栏支持使用上下文一致性检查来检测和筛选模型响应中的幻觉。支持的用例包括计算机科学学科中定义的摘要、释义和问答。（不支持对话式 QA /Chatbot 用例。）

上下文一致性检查会检查处理的每个分块的相关性。如果任何一个区块被认为是相关的，则整个响应都被认为是相关的，因为它具有用户查询的答案。对于流式传输 API，这可能会导致向用户返回不相关的响应，并且仅在流式传输整个响应后才被标记为不相关。

情境基础检查以下范例：

举一个例子，其中参考来源包含 “伦敦是英国的首都”。东京是日本的首都”，用户查询是 “日本的首都是什么？”。诸如 “日本的首都是伦敦” 之类的回应将被视为没有根据和事实不正确，而诸如 “英国的首都是伦敦” 之类的回应将被视为无关紧要，即使它是正确的，也是以消息来源为依据的。

置信度分数和阈值

上下文一致性检查根据提供的来源和用户查询，为处理的每个模型响应生成与一致性和相关性对应的置信度分数。您可以配置阈值以根据生成的分数筛选模型响应。筛选阈值决定了模型响应的最低允许置信度分数，达到该分数的模型响应在生成式人工智能应用程序中被视为有依据且相关的响应。例如，如果您的接地阈值和相关性阈值均设置为 0.7，则所有接地分数或相关性分数低于 0.7 的模型响应都将被检测为幻觉并在您的应用程序中受到阻止。随着筛选阈值的增加，阻止无依据且不相关的内容的可能性就会增加，而在应用程序中看到幻觉内容的可能性也会降低。您可以将接地和相关性的阈值配置为 0 到 0.99 之间的值。阈值为 1 是无效的，因为这将阻止所有内容。

上下文一致性检查需要 3 个组件来执行检查：一致性来源、查询和要保护的内容（即模型响应）。根据您是使用 Invoke API、Converse API 还是直接使用 ApplyGuardrail，它们的配置会有所不同。

无依据内容示例

在此示例中，要防护的内容与查询相关，但由于未正确使用接地源，因此属于无依据内容。此类内容的接地分数会很低。

不相关内容示例

在此示例中，要防护的内容有依据但不相关。它使用来自接地源的信息，但没有回答查询。此类内容的相关性分数会很低。

无依据且不相关内容示例

在此示例中，要防护的内容无依据且不相关。它既没有使用来自接地源的信息，也没有回答查询。此类内容的接地分数和相关性分数可能会很低。

更多示例

考虑一个旨在回答与费用和收费相关的问题的银行应用程序。

源：

根据上述来源，根据用户的查询，可能有四种场景。

有依据且相关

Un-grounded 但相关

有依据但不相关

Un-grounded 而且无关紧要

使用控制台添加上下文一致性检查

使用 Invoke API 调用上下文接地检查

要标记接地源并在输入中进行查询，请使用以下与输入标签相同的标签。这些标签是amazon-bedrock-guardrails-groundingSource_xyz和amazon-bedrock-guardrails-query_xyz，标签后缀在哪xyz里。例如：

{
    "text": """
<amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan. </amazon-bedrock-guardrails-groundingSource_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
""",
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz",
    },
}    
        

请注意，执行上下文一致性检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

这些标签可以与guardContent标签一起使用。除了基于上下文的依据（字词过滤器、主题过滤器、内容过滤器、敏感信息检测）之外，内部groundingSource内容和query标签不包括在政策评估之外。

其余策略的行为取决于您是否使用guardContent标签：

要让基础源或查询内容也由其余策略进行评估，请将上下文基础标签嵌套在标签中：guardContent

<amazon-bedrock-guardrails-guardContent_xyz><amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan.</amazon-bedrock-guardrails-groundingSource_xyz></amazon-bedrock-guardrails-guardContent_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
        

在此示例中，基础源内容既用作上下文基础参考源，又由其他策略进行评估，因为它也包含在标签中。guardContent

调用上下文接地检查 Converse API

要针对 Converse API 标记一致性来源和查询，请在每个护栏内容块中使用 qualifiers 字段。例如：

[
    {
        "role": "user",
        "content": [
            {
                "guardContent": {
                    "text": {
                        "text": "London is the capital of UK. Tokyo is the capital of Japan",
                        "qualifiers": ["grounding_source"],
                    }
                }
            },
            {
                "guardContent": {
                    "text": {
                        "text": "What is the capital of Japan?",
                        "qualifiers": ["query"],
                    }
                }
            },
        ],
    }
]
        

请注意，执行上下文一致性检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

除情境基础之外的策略的行为取决于分配给每个区块的限定词：guardContent

如果您希望您的接地来源或查询内容也由其他护栏政策进行评估，请在上下文基础限定符旁边guard_content添加到限定词列表中。

使用 API 调用上下文基础检查 ApplyGuardrail

将上下文一致性检查与 ApplyGuardrail 配合使用类似于将其与 Converse API 配合使用。要针对 ApplyGuardrail 标记一致性来源和查询，请在每个内容块中使用 qualifiers 字段。但是，由于 ApplyGuardrail 不会调用模型，因此您还必须提供一个包含要护栏的内容的额外内容块。可以选择使用 guard_content 限定此内容块，此内容块等同于 Invoke* 或 Converse* API 中的模型响应。例如：

[
    {
        "text": {
            "text": "London is the capital of UK. Tokyo is the capital of Japan",
            "qualifiers": [
                "grounding_source"
            ]
        }
    },
    {
        "text": {
            "text": "What is the capital of Japan?",
            "qualifiers": [
                "query"
            ]
        }
    },
    {
        "text": {
            "text": "The capital of Japan is Tokyo."
        }
    }
]
        

请注意，执行上下文一致性检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

限定词如何影响政策评估

带有grounding_source或query限定符的内容块只能通过上下文基础检查进行评估。这些区块不包括在所有其他护栏策略评估中（字词过滤器、主题过滤器、内容过滤器、敏感信息检测和即时攻击检测）。

要让内容块同时通过上下文基础检查和其他护栏策略进行评估，请同时使用这两个限定词。例如，指定["grounding_source", "guard_content"]将内容块标记为同样受所有其他配置策略约束的接地源。

对于评估内容的基于情境以外的政策，必须至少有一个内容区块不合格或明确限定。guard_content如果内容块没有qualifiers字段，则该内容块是不合格的。

下表汇总了每个限定词组合如何影响策略评估。