翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Q in Connect の AI ガードレールを作成する

AI ガードレールは、ユースケースと責任ある AI ポリシーに基づいた保護を実装できるリソースです。

Amazon Connect は Amazon Bedrock ガードレールを使用します。これらのガードレールは、 Amazon Connect 管理ウェブサイトで作成および編集できます。

重要事項

AI ガードレールを作成する方法

デフォルトのブロックされたメッセージを変更する

このセクションでは、ユーザーに表示されるブロックされたメッセージを変更する例を使用して、 Amazon Connect 管理ウェブサイトの AI ガードレールビルダーとエディタにアクセスする方法について説明します。

次の図は、ユーザーに表示されるデフォルトのブロックされたメッセージの例を示しています。デフォルトのメッセージは「ガードレールにより入力テキストがブロックされました」です。

AI ガードレールポリシーを設定するための CLI コマンドの例

AWS CLI を使用して AI ガードレールポリシーを設定する方法の例を次に示します。

望ましくないトピックをブロックする

次のサンプル AWS CLI コマンドを使用して、望ましくないトピックをブロックします。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "topicPolicyConfig": {
        "topicsConfig": [
            {
                "name": "Financial Advice",
                "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                "type": "DENY"
            }
        ]
    }
}

有害および不適切なコンテンツをフィルタリングする

次のサンプル AWS CLI コマンドを使用して、有害および不適切なコンテンツをフィルタリングします。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contentPolicyConfig": {
        "filtersConfig": [
            {
                "inputStrength": "HIGH",
                "outputStrength": "HIGH",
                "type": "INSULTS"
            }
        ]
    }
}

有害および不適切な単語をフィルタリングする

次のサンプル AWS CLI コマンドを使用して、有害および不適切な単語をフィルタリングします。 

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "wordPolicyConfig": {
        "wordsConfig": [
            {
                "text": "Nvidia",
            },
        ]
    }
}

モデルレスポンスでハルシネーションを検出する

次のサンプル AWS CLI コマンドを使用して、モデルレスポンスのハルシネーションを検出します。 

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "contextualGroundPolicyConfig": {
        "filtersConfig": [
            {
                "type": "RELEVANCE",
                "threshold": 0.50
            },
        ]
    }
}

機密情報の編集

次のサンプル AWS CLI コマンドを使用して、個人を特定できる情報 (PII) などの機密情報を編集します。

aws qconnect update-ai-guardrail
--cli-input-json {
    "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
    "aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
    "blockedInputMessaging": "Blocked input text by guardrail",
    "blockedOutputsMessaging": "Blocked output text by guardrail",
    "visibilityStatus": "PUBLISHED",
    "sensitiveInformationPolicyConfig": {
        "piiEntitiesConfig": [
            {
                "type": "CREDIT_DEBIT_CARD_NUMBER",
                "action":"BLOCK",
            },
        ]
    }
}