Exemples de configurations, de résultats et de scores

Les blocs suivants montrent la configuration de la demande de chaque vérification ainsi que le résultat renvoyé, y compris des exemples de scores.

Filtre de contenu

Le filtre de contenu renvoie une entrée par catégorie demandée, chacune avec une valeur severityScore comprise entre 0,0 et 1,0. Un score plus élevé indique une meilleure correspondance avec cette catégorie. Vous choisissez le seuil considéré comme une violation. Si vous avez besoin d'une expérience très restreinte pour bloquer du contenu, définissez le seuil à l'extrémité inférieure.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Attaque rapide

Une attaque rapide renvoie une entrée par catégorie demandée avec unseverityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Informations sensibles

Les informations sensibles renvoient une entrée par instance d'entité détectée. Chaque entrée possède unconfidenceScore, le messageIndex et dans lequel contentIndex elle est apparue et les décalages de begin/end caractères dans ce bloc, ce qui est suffisant pour le masquage ou la rédaction côté client. Les résultats sont plafonnés à un maximum défini par le service ; s'il existe plus d'entités, ce plafond ne l'est pas. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

Contrairement aux autres contrôles, les résultats relatifs aux informations sensibles évoluent en fonction du contenu. Les résultats sont plafonnés à un maximum de 1 000 entités défini par le service ; s'il existe plus d'entités, ce plafond ne l'est pas. truncated true Pour un masquage exhaustif du contenu très long, vérifiez les segments plus petits.