為 Amazon Q in Connect 建立 AI 防護機制 - Amazon Connect
重要須知事項如何建立 AI 防護機制變更預設封鎖訊息CLI 命令範例

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

為 Amazon Q in Connect 建立 AI 防護機制

AI 防護機制是一種資源，可讓您根據您的使用案例和負責任的 AI 政策實作防護機制。

Amazon Connect 使用 Amazon Bedrock 防護機制。您可以在 Amazon Connect 管理員網站上建立和編輯這些防護機制。

須知事項

  • 您最多可以建立三個自訂防護機制。

  • Amazon Q in Connect 防護機制支援與 Amazon Bedrock 防護機制傳統層相同的語言。如需支援的完整語言清單，請參閱 Amazon Bedrock 防護機制支援的語言。無法評估其他語言的文字內容。

  • 設定或編輯防護機制時，強烈建議您使用不同組態進行實驗和基準測試。您的部分組合可能會出現意外後果。測試防護機制，以確保結果符合您的使用案例需求。

如何建立 AI 防護機制

  1. 使用具有 Amazon Q、AI 護欄 - 在其安全性設定檔中建立許可的帳戶登入 Amazon Connect 管理員網站。

  2. 在 Amazon Connect 管理員網站左側導覽選單中，選擇 Amazon Q、AI 護欄。

  3. 在防護機制頁面上，選擇建立防護機制。

  4. 在建立 AI 防護機制對話方塊上，輸入防護機制的名稱和說明，然後選擇建立。

  5. 在 AI 防護機制建置器頁面上，根據需要填寫下列欄位，為您的防護機制建立政策：

    • 內容篩選條件：調整篩選條件強度，以協助封鎖包含有害內容的輸入提示或模型回應。根據偵測某些預先定義的有害內容類別來進行篩選 - 仇恨、侮辱、性、暴力、行為不當和提示攻擊。

    • 拒絕的主題：定義一組在應用程式內容中不理想的主題。如果在使用者查詢或模型回應中偵測到，則篩選條件將協助封鎖它們。您最多可以新增 30 個拒絕的主題。

    • 內容依據檢查：根據來源的依據和與使用者查詢的相關性，協助偵測和篩選模型回應中的幻覺。

    • 單字篩選條件：設定篩選條件，以協助封鎖不需要的單字、片語和褻瀆 (完全相符)。這類單字可以包含令人反感的詞彙、競爭對手名稱等。

    • 敏感資訊篩選條件：設定篩選條件以協助封鎖或遮罩敏感資訊，例如使用者輸入和模型回應中的個人身分識別資訊 (PII) 或自訂規則運算式。

      封鎖或遮罩是根據 SSN 號碼、出生日期、地址等實體中標準格式的敏感資訊的概率偵測。這也允許設定識別符模式的規則運算式型偵測。

    • 封鎖訊息：自訂您的防護機制封鎖輸入或模型回應時，要向使用者顯示的預設訊息。

    Amazon Connect 不支援影像內容篩選條件，以協助偵測和篩選掉不當或有害的影像內容。

  6. 完成防護機制後，選擇儲存。

    從版本下拉式清單中進行選取時，Latest:Draft 一律會傳回 AI 防護機制的儲存狀態。

  7. 選擇發布。已儲存 AI 防護機制的更新、AI 防護機制可見性狀態設為已發布，並已建立新的 AI 防護機制版本。

    AI 防護機制頁面，可見性狀態設為已發布。

    從版本下拉式清單中進行選取時，Latest:Published 一律會傳回 AI 防護機制的儲存狀態。

變更預設封鎖訊息

本章節說明如何變更向使用者顯示之封鎖訊息的範例，來存取 Amazon Connect 員管理網站的 AI 防護機制建置器和編輯器。

下圖範例顯示向使用者顯示的預設封鎖訊息。預設訊息為「防護機制已封鎖輸入文字」。

向客戶顯示的預設防護機制訊息範例。
若要變更預設封鎖訊息

  1. 登入 Amazon Connect 管理網站，網址為 https：//instance name.my.connect.aws/。使用管理員帳戶或具 Amazon Q 的帳戶 - AI 防護機制 - 在安全性設定檔中建立權限。

  2. 在導覽功能表中選擇 Amazon Q、AI 防護機制。

  3. 在 AI 防護機制頁面上，選擇建立 AI 防護機制。畫面即會顯示一個對話方塊，讓您指派名稱和說明。

  4. 在建立 AI 防護機制對話方塊上，輸入名稱和說明，然後選擇建立。如果您已有三個防護機制，您會收到錯誤訊息，如下圖所示。

    您已有三個防護機制的訊息。

    如果您收到此訊息，請考慮編輯現有防護機制 (而非建立另一個防護機制) 來滿足您的需求。或者，請刪除一個防護機制，以建立另一個。

  5. 若要變更防護機制封鎖模型回應時顯示的預設訊息，請捲動至封鎖訊息區段。

  6. 輸入您要顯示的封鎖訊息文字，選擇儲存，然後選擇發布。

設定 AI 防護機制政策的 CLI 命令範例

以下範例顯示如何使用 AWS CLI 設定 AI 防護機制政策。

封鎖不需要的主題

使用下列範例 AWS CLI 命令來封鎖不需要的主題。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "topicPolicyConfig": {
        "topicsConfig": [
            {
                "name": "Financial Advice",
                "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                "type": "DENY"
            }
        ]
    }
}

篩選有害和不當內容

使用下列範例 AWS CLI 命令來篩選有害和不適當的內容。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contentPolicyConfig": {
        "filtersConfig": [
            {
                "inputStrength": "HIGH",
                "outputStrength": "HIGH",
                "type": "INSULTS"
            }
        ]
    }
}

篩選有害和不當字詞

使用下列範例 AWS CLI 命令來篩選有害和不適當的字詞。  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "wordPolicyConfig": {
        "wordsConfig": [
            {
                "text": "Nvidia",
            },
        ]
    }
}

偵測模型回應中的幻覺

使用下列範例 AWS CLI 命令來偵測模型回應中的幻覺。  

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contextualGroundPolicyConfig": {
        "filtersConfig": [
            {
                "type": "RELEVANCE",
                "threshold": 0.50
            },
        ]
    }
}

修改敏感資訊

使用下列範例 AWS CLI 命令來修訂敏感資訊，例如個人身分識別資訊 (PII)。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "sensitiveInformationPolicyConfig": {
        "piiEntitiesConfig": [
            {
                "type": "CREDIT_DEBIT_CARD_NUMBER",
                "action":"BLOCK",
            },
        ]
    }
}