本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

使用上下文接地检查来筛选响应中的幻觉

提供引用源和用户查询时，Amazon Bedrock 防护机制支持使用上下文接地检查来检测和筛选模型响应中的幻觉。支持的用例涵盖检索增强生成 (RAG)、摘要、释义或对话代理，这些代理依赖参考来源（例如 RAG 中检索到的段落或对话历史记录）来为代理提供对话基础。

上下文接地检查会检查处理的每个分块的相关性。如果任何一个分块被认为是相关的，则整个响应都被认为是相关的，因为它具有用户查询的答案。对于流式传输 API，这可能会导致向用户返回不相关的响应，并且仅在流式传输整个响应后才被标记为不相关。

上下文接地检查可评估两种范式的幻觉：

例如，引用源包含“伦敦是英国的首都。东京是日本的首都”，用户查询是“日本的首都是哪里？”。诸如“日本的首都是伦敦”之类的响应将被视为无依据且与事实相悖的响应，而诸如“英国的首都是伦敦”之类的响应将被视为不相关的响应，即使它是正确的，也基于源。

置信度分数和阈值

上下文接地检查根据提供的源和用户查询为处理的每个模型响应生成与接地和相关性相对应的置信度分数。您可以配置阈值以根据生成的分数筛选模型响应。筛选阈值决定了模型响应的最低允许置信度分数，达到该分数的模型响应在生成式人工智能应用程序中被视为有依据且相关的响应。例如，如果您的接地阈值和相关性阈值均设置为 0.7，则所有接地分数或相关性分数低于 0.7 的模型响应都将被检测为幻觉并在您的应用程序中受到阻止。随着筛选阈值的增加，阻止无依据且不相关的内容的可能性就会增加，而在应用程序中看到幻觉内容的可能性也会降低。您可以将接地和相关性的阈值配置为 0 到 0.99 之间的值。阈值为 1 是无效的，因为这将阻止所有内容。

上下文接地检查需要 3 个组件来执行检查：接地源、查询和要防护的内容（或模型响应）。根据您使用的是 Invoke、还是 ApplyGuardrail 直接使用 Invoke APIs Converse APIs，它们的配置会有所不同。

无依据内容示例

在此示例中，要防护的内容与查询相关，但由于未正确使用接地源，因此属于无依据内容。此类内容的接地分数会很低。

不相关内容示例

在此示例中，要防护的内容有依据但不相关。它使用来自接地源的信息，但没有回答查询。此类内容的相关性分数会很低。

无依据且不相关内容示例

在此示例中，要防护的内容无依据且不相关。它既没有使用来自接地源的信息，也没有回答查询。此类内容的接地分数和相关性分数可能会很低。

更多示例

考虑一个旨在回答与费用和收费相关的问题的银行应用程序。

源：

从上述源来看，根据用户的查询可以分为四种情况。

有依据且相关

无依据但相关

有依据但不相关

无依据且不相关

使用控制台添加情境接地检查

使用 Invoke 调用上下文基础检查 APIs

为了在输入中标记接地源和查询，我们提供了 2 个与运行方式与输入标签相同的标签。这些标签是 amazon-bedrock-guardrails-groundingSource_xyz 和 amazon-bedrock-guardrails-query_xyz（假设标签后缀是 xyz）。例如：

{
    "text": """
<amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan. </amazon-bedrock-guardrails-groundingSource_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
""",
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz",
    },
}    
        

请注意，执行上下文接地检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

这些标签可以与 guardContent 标签一起使用。如果不使用 guardContent 标签，则防护机制将默认对整个输入（包括接地源和查询）应用所有配置的策略。如果使用 guardContent 标签，则上下文接地检查策略将仅调查接地源、查询和响应，而其余策略将调查 guardContent 标签内的内容。

调用上下文接地检查 Converse APIs

要标记接地源并查询 Converse APIs，请使用每个防护内容块中的限定符字段。例如：

[
    {
        "role": "user",
        "content": [
            {
                "guardContent": {
                    "text": {
                        "text": "London is the capital of UK. Tokyo is the capital of Japan",
                        "qualifiers": ["grounding_source"],
                    }
                }
            },
            {
                "guardContent": {
                    "text": {
                        "text": "What is the capital of Japan?",
                        "qualifiers": ["query"],
                    }
                }
            },
        ],
    }
]
        

请注意，执行上下文接地检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

如果所有内容块都没有使用 guard_content 限定符进行标记，则上下文接地检查策略将仅调查接地源、查询和响应。其余策略将遵循默认的调查行为：系统提示默认为不进行调查，消息默认为进行调查。但是，如果内容块使用 guard_content 限定符进行标记，则上下文接地检查策略将仅调查接地源、查询和响应，而其余策略将调查标有 guardContent 标签的内容。

使用 API 调用上下文基础检查 ApplyGuardrail

使用上下文接地检查与 ApplyGuardrail 使用上下文接地检查类似。Converse APIs要标记基础源并查询 ApplyGuardrail，请使用每个内容块中的限定符字段。但是，由于不使用调用模型 ApplyGuardrail，因此您还必须提供一个包含要保护的内容的额外内容块。可以选择使用 guard_content 限定此内容块，它等同于 Invoke* 或 Converse* 中的模型响应。 APIs例如：

[
    {
        "text": {
            "text": "London is the capital of UK. Tokyo is the capital of Japan",
            "qualifiers": [
                "grounding_source"
            ]
        }
    },
    {
        "text": {
            "text": "What is the capital of Japan?",
            "qualifiers": [
                "query"
            ]
        }
    },
    {
        "text": {
            "text": "The capital of Japan is Tokyo."
        }
    }
]
        

请注意，执行上下文接地检查需要模型响应，因此只对输出进行检查，不对提示执行检查。

如果所有内容块都没有使用 guard_content 限定符进行标记，则上下文接地检查策略将仅调查接地源、查询和响应。其余策略将遵循默认的调查行为：系统提示默认为不进行调查，消息默认为进行调查。但是，如果内容块使用 guard_content 限定符进行标记，则上下文接地检查策略将仅调查接地源、查询和响应，而其余策略将调查标有 guardContent 标签的内容。