기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Q in Connect용 AI 가드레일 생성

AI 가드레일은 사용 사례와 책임 있는 AI 정책에 따라 보호 기능을 구현할 수 있는 리소스입니다.

Amazon Connect는 Amazon Bedrock 가드레일을 사용합니다. Amazon Connect 관리자 웹 사이트에서 이러한 가드레일을 생성하고 편집할 수 있습니다.

중요한 참고 사항

AI 가드레일을 생성하는 방법

차단된 기본 메시지 변경

이 섹션에서는 사용자에게 표시되는 차단된 메시지를 변경하는 예를 사용하여 Amazon Connect 관리자 웹 사이트의 AI 가드레일 빌더 및 편집기에 액세스하는 방법을 설명합니다.

다음 이미지는 사용자에게 표시되는 차단된 기본 메시지의 예를 보여줍니다. 기본 메시지는 "가드레일별 차단된 입력 텍스트"입니다.

AI 가드레일 정책을 구성하는 샘플 CLI 명령

다음은 AWS CLI를 사용하여 AI 가드레일 정책을 구성하는 방법의 예입니다.

원치 않는 주제 차단

다음 샘플 AWS CLI 명령을 사용하여 원치 않는 주제를 차단합니다.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "topicPolicyConfig": {
                  "topicsConfig": [
                    {
                      "name": "Financial Advice",
                      "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                      "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                      "type": "DENY"
                    }
                  ]
                }
    }

유해하고 부적절한 콘텐츠 필터링

다음 샘플 AWS CLI 명령을 사용하여 유해하고 부적절한 콘텐츠를 필터링합니다.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contentPolicyConfig": {
                  "filtersConfig": [
                    {
                       "inputStrength": "HIGH",
                       "outputStrength": "HIGH",
                       "type": "INSULTS"
                    }
                  ]
                }
    }

유해하고 부적절한 단어 필터링

다음 샘플 AWS CLI 명령을 사용하여 유해하고 부적절한 단어를 필터링합니다. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "wordPolicyConfig": {
                  "wordsConfig": [
                    {
                       "text": "Nvidia",
                    },
                  ]
                }
    }

모델 응답에서 할루시네이션 감지

다음 샘플 AWS CLI 명령을 사용하여 모델 응답에서 할루시네이션을 감지합니다. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contextualGroundPolicyConfig": {
                  "filtersConfig": [
                    {
                       "type": "RELEVANCE",
                       "threshold": 0.50
                    },
                  ]
                }
    }

민감한 정보 수정

다음 샘플 AWS CLI 명령을 사용하여 개인 식별 정보(PII)와 같은 민감한 정보를 수정합니다.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "sensitiveInformationPolicyConfig": {
                  "piiEntitiesConfig": [
                    {
                       "type": "CREDIT_DEBIT_CARD_NUMBER",
                       "action":"BLOCK",
                    },
                  ]
                }
    }