구성, 결과 및 점수의 예

다음 블록은 예제 점수를 포함하여 반환되는 결과와 함께 각 검사의 요청 구성을 보여줍니다.

콘텐츠 필터

콘텐츠 필터는 요청된 범주당 하나의 항목을 반환하며, 각 항목은 0.0에서 1.0 severityScore 사이입니다. 점수가 높을수록 해당 범주와 더 일치하는 것을 나타냅니다. 위반으로 계산되는 임계값을 선택합니다. 콘텐츠를 차단하는 데 매우 제한된 경험이 필요한 경우 임계값을 하단으로 설정합니다.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

프롬프트 공격

프롬프트 공격은를 사용하여 요청된 범주당 하나의 항목을 반환합니다severityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

민감한 정보

민감한 정보는 감지된 엔터티 인스턴스당 하나의 항목을 반환합니다. 각 항목에는 confidenceScore, messageIndex 및 contentIndex에 표시된 , 해당 블록 내의 시작/끝 문자 오프셋이 있으며, 이는 클라이언트 측 마스킹 또는 수정에 충분합니다. 결과는 서비스 정의 최댓값으로 제한됩니다. 최댓값보다 더 많은 엔터티가 있는 경우는 truncated입니다true.

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

다른 검사와 달리 민감한 정보 조사 결과는 콘텐츠에 따라 조정됩니다. 결과는 서비스 정의 최대 1,000개의 엔터티로 제한됩니다. 캡보다 더 많은 엔터티가 있는 경우는 truncated입니다true. 매우 긴 콘텐츠에 대한 완전한 마스킹을 위해 더 작은 세그먼트에서 점검을 실행합니다.