为 Amazon Q in Connect 创建人工智能护栏 - Amazon Connect
需要了解的重要事项如何创建人工智能护栏更改默认的已阻止消息示例 CLI 命令

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

为 Amazon Q in Connect 创建人工智能护栏

人工智能护栏是一种资源，可让您根据使用案例和负责任的人工智能策略实施保护措施。

Amazon Connect 使用 Amazon Bedrock 护栏。您可以在 Amazon Connect 管理员网站上创建和编辑这些护栏。

需要了解的重要事项

  • 最多可以创建三个自定义护栏。

  • Amazon Q in Connect 护栏支持的语言与 Amazon Bedrock 护栏典型层相同。有关支持的语言的完整列表，请参阅 Amazon Bedrock 护栏支持的语言。评估其它语言的文本内容将无效。

  • 在配置或编辑护栏时，我们强烈建议您使用不同的配置进行实验和基准测试。您的某些组合可能会产生意想不到的后果。测试护栏以确保结果符合您的使用案例要求。

如何创建人工智能护栏

  1. 使用具有 Amazon Q、A I 防护栏的账户登录 Amazon Connect 管理网站-在其安全配置文件中创建权限。

  2. 在 Amazon Connect 管理网站的左侧导航菜单中，选择 Amazon Q，人工智能护栏。

  3. 在护栏页面上，选择创建护栏。

  4. 在创建人工智能护栏对话框中，输入护栏的名称和描述，然后选择创建。

  5. 在人工智能护栏生成器页面上，根据需要填写以下字段来为护栏创建策略：

    • 内容筛选条件：调整筛选条件强度，来协助屏蔽包含有害内容的输入提示或模型回复。筛选是基于对某些预定义的有害内容类别进行检测来完成的，包括仇恨言论、侮辱性内容、色情内容、暴力内容、不当行为以及提示攻击。

    • 被拒绝的话题：定义一组在应用程序的上下文中不受欢迎的话题。如果系统在用户查询或模型响应中检测到这些主题，筛选条件将帮助屏蔽它们。最多可以添加 30 个被拒绝的话题。

    • 上下文一致性检查：根据对来源的验证以及与用户查询的相关性，协助检测和筛选模型回复中的幻觉。

    • 单词筛选条件：配置筛选条件，以协助阻止不受欢迎的单词、短语和亵渎性内容（完全匹配）。包括冒犯性用语、竞争对手名称等。

    • 敏感信息筛选条件：配置筛选条件来协助阻止或掩蔽敏感信息，例如用户输入和模型回复中的个人身份信息（PII）或自定义正则表达式。

      阻止或掩蔽是基于对 SSN 编号、出生日期、地址等实体中标准格式的敏感信息进行概率检测来完成的。这还支持配置基于正则表达式的标识符模式检测。

    • 已阻止消息：自定义在您的护栏阻止输入或模型回复时向用户显示的默认消息。

    Amazon Connect 不支持使用图片内容筛选条件来协助检测和筛选不当或有害的图片内容。

  6. 护栏完成后，选择保存。

    从版本下拉列表中选择时，Latest:Draft 始终返回人工智能护栏的已保存状态。

  7. 选择发布。对人工智能护栏的更新已保存，人工智能护栏可见性状态设置为已发布，并创建了新的人工智能护栏版本。

    人工智能护栏页面，“可见性状态”设置为“已发布”。

    从版本下拉列表中选择时，Latest:Published 始终返回人工智能护栏的已保存状态。

更改默认的已阻止消息

本节以更改向用户显示的已阻止消息为例，说明了如何在 Amazon Connect 管理员网站中访问人工智能护栏生成器和编辑器。

下图显示了向用户显示的默认已阻止消息的示例。默认消息是“Blocked input text by guardrail”。

向客户显示的默认护栏消息的示例。
更改默认的已阻止消息

  1. 登录 Amazon Connect 管理员网站 https://instance name.my.connect.aws/。使用管理员账户，或在其安全配置文件中具有 Amazon Q - 人工智能护栏 - 创建权限的账户。

  2. 在导航菜单上，依次选择 Amazon Q、人工智能护栏。

  3. 在人工智能护栏页面上，选择创建人工智能护栏。将显示一个对话框，供您指定名称和描述。

  4. 在创建人工智能护栏对话框中，输入名称和描述，然后选择创建。如果您的企业已经有三个护栏，您将收到一条错误消息，如下图所示。

    一条表明您的企业已经有三个护栏的消息。

    如果您收到此消息，请考虑编辑现有护栏以满足您的需求，而不是创建另一个护栏。或者，删除一个护栏，这样您就可以创建另一个护栏。

  5. 要更改护栏阻止模型回复时显示的默认消息，请滚动到已阻止消息部分。

  6. 输入要显示的阻止消息文本，选择保存，然后选择发布。

用于配置人工智能护栏策略的示例 CLI 命令

以下是如何使用 AWS CLI 配置人工智能护栏策略的示例。

屏蔽不良话题

使用以下 AWS CLI 命令示例，屏蔽不良话题。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "topicPolicyConfig": {
        "topicsConfig": [
            {
                "name": "Financial Advice",
                "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                "type": "DENY"
            }
        ]
    }
}

筛选有害和不恰当的内容

使用以下 AWS CLI 命令示例，筛选有害和不当内容。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contentPolicyConfig": {
        "filtersConfig": [
            {
                "inputStrength": "HIGH",
                "outputStrength": "HIGH",
                "type": "INSULTS"
            }
        ]
    }
}

筛选有害和不恰当的单词

使用以下 AWS CLI 命令示例，筛选有害和不恰当的词语。  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "wordPolicyConfig": {
        "wordsConfig": [
            {
                "text": "Nvidia",
            },
        ]
    }
}

检测模型回复中的幻觉

使用以下 AWS CLI 命令示例，检测模型响应中的幻觉。  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contextualGroundPolicyConfig": {
        "filtersConfig": [
            {
                "type": "RELEVANCE",
                "threshold": 0.50
            },
        ]
    }
}

删除敏感信息

使用以下 AWS CLI 命令示例，编辑敏感信息，例如个人身份信息 (PII)。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "sensitiveInformationPolicyConfig": {
        "piiEntitiesConfig": [
            {
                "type": "CREDIT_DEBIT_CARD_NUMBER",
                "action":"BLOCK",
            },
        ]
    }
}