翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Q in Connect の AI ガードレールを作成する

AI ガードレールは、ユースケースと責任ある AI ポリシーに基づいて保護を実装できるリソースです。

Amazon Connect は Amazon Bedrock ガードレールを使用します。これらのガードレールは、 Amazon Connect 管理ウェブサイトで作成および編集できます。

重要事項

AI ガードレールを作成する方法

ブロックされたデフォルトのメッセージを変更する

このセクションでは、ユーザーに表示されるブロックされたメッセージを変更する例を使用して、 Amazon Connect 管理ウェブサイトの AI ガードレールビルダーとエディタにアクセスする方法について説明します。

次の図は、ユーザーに表示されるデフォルトのブロックされたメッセージの例を示しています。デフォルトのメッセージは「ガードレールによる入力テキストのブロック」です。

AI ガードレールポリシーを設定するための CLI コマンドの例

AWS CLI を使用して AI ガードレールポリシーを設定する方法の例を次に示します。

望ましくないトピックをブロックする

次のサンプル AWS CLI コマンドを使用して、望ましくないトピックをブロックします。

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "topicPolicyConfig": {
                  "topicsConfig": [
                    {
                      "name": "Financial Advice",
                      "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                      "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                      "type": "DENY"
                    }
                  ]
                }
    }

有害および不適切なコンテンツをフィルタリングする

次のサンプル AWS CLI コマンドを使用して、有害および不適切なコンテンツをフィルタリングします。

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contentPolicyConfig": {
                  "filtersConfig": [
                    {
                       "inputStrength": "HIGH",
                       "outputStrength": "HIGH",
                       "type": "INSULTS"
                    }
                  ]
                }
    }

有害および不適切な単語をフィルタリングする

次のサンプル AWS CLI コマンドを使用して、有害および不適切な単語をフィルタリングします。 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "wordPolicyConfig": {
                  "wordsConfig": [
                    {
                       "text": "Nvidia",
                    },
                  ]
                }
    }

モデルレスポンスでハルシネーションを検出する

次のサンプル AWS CLI コマンドを使用して、モデルレスポンスのハルシネーションを検出します。 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contextualGroundPolicyConfig": {
                  "filtersConfig": [
                    {
                       "type": "RELEVANCE",
                       "threshold": 0.50
                    },
                  ]
                }
    }

機密情報を編集する

次のサンプル AWS CLI コマンドを使用して、個人を特定できる情報 (PII) などの機密情報を編集します。

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "sensitiveInformationPolicyConfig": {
                  "piiEntitiesConfig": [
                    {
                       "type": "CREDIT_DEBIT_CARD_NUMBER",
                       "action":"BLOCK",
                    },
                  ]
                }
    }