範例組態、結果和分數

下列區塊會顯示每個檢查的請求組態及其傳回的結果，包括範例分數。

內容篩選條件

內容篩選條件會傳回每個請求類別的一個項目，每個項目的 0.0 和 1.0 severityScore之間。分數越高表示對該類別的配對越強。您可以選擇計為違規的閾值。如果您需要高度受限的體驗來封鎖內容，請在下端設定閾值。

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

提示攻擊

提示攻擊會傳回每個具有 的請求類別一個項目severityScore。

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

敏感資訊

敏感資訊會傳回每個偵測到的實體執行個體一個項目。每個項目都有一個 confidenceScore、contentIndex出現在其中的 messageIndex和 ，以及該區塊內的開始/結束字元位移，這足以進行用戶端遮罩或修訂。結果上限為服務定義的最大值；如果存在的實體數量超過上限，則 truncated為 true。

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

與其他檢查不同，敏感資訊調查結果會隨內容而擴展。結果上限為服務定義的 1000 個實體；如果存在的實體數量超過上限，則 truncated為 true。如需對非常長的內容進行詳盡的遮罩，請在較小的區段上執行檢查。