Contoh konfigurasi, hasil, dan skor

Blok berikut menunjukkan konfigurasi permintaan setiap cek di samping hasil yang dikembalikan, termasuk skor contoh.

Filter konten

Filter konten mengembalikan satu entri per kategori yang diminta, masing-masing dengan severityScore antara 0,0 dan 1,0. Skor yang lebih tinggi menunjukkan kecocokan yang lebih kuat untuk kategori itu. Anda memilih ambang batas yang dianggap sebagai pelanggaran. Jika Anda membutuhkan pengalaman yang sangat terbatas untuk memblokir konten, tetapkan ambang batas di ujung bawah.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Serangan cepat

Serangan cepat mengembalikan satu entri per kategori yang diminta dengan aseverityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Informasi sensitif

Informasi sensitif mengembalikan satu entri per instance entitas yang terdeteksi. Setiap entri memilikiconfidenceScore, messageIndex dan contentIndex itu muncul di, dan begin/end karakter mengimbangi di dalam blok itu, yang cukup untuk masking atau redaksi sisi klien. Hasil dibatasi pada maksimum yang ditentukan layanan; jika lebih banyak entitas ada daripada batas, adalah. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

Berbeda dengan pemeriksaan lainnya, temuan informasi sensitif berskala dengan konten. Hasil dibatasi pada maksimum 1000 entitas yang ditentukan layanan; jika lebih banyak entitas ada daripada batas, adalah. truncated true Untuk masking lengkap pada konten yang sangat panjang, jalankan pemeriksaan pada segmen yang lebih kecil.