Beispielkonfigurationen, Ergebnisse und Punktzahlen

Die folgenden Blöcke zeigen die Anforderungskonfiguration jeder Prüfung zusammen mit dem Ergebnis, das sie zurückgibt, einschließlich Beispielwerten.

Inhaltsfilter

Der Inhaltsfilter gibt einen Eintrag pro angeforderter Kategorie zurück, jeweils mit einem Wert severityScore zwischen 0,0 und 1,0. Eine höhere Punktzahl weist auf eine stärkere Übereinstimmung mit dieser Kategorie hin. Sie wählen den Schwellenwert, der als Verstoß gilt. Wenn Sie zum Blockieren von Inhalten ein stark eingeschränktes Erlebnis benötigen, legen Sie den Schwellenwert am unteren Ende fest.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Sofortiger Angriff

Prompter Angriff gibt einen Eintrag pro angeforderter Kategorie mit a zurückseverityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Vertrauliche Informationen

Vertrauliche Informationen geben einen Eintrag pro erkannter Entitätsinstanz zurück. Jeder Eintrag hat einenconfidenceScore, den messageIndex und, in dem contentIndex er auftauchte, und die begin/end Zeichen-Offsets innerhalb dieses Blocks, was für eine clientseitige Maskierung oder Schwärzung ausreicht. Die Ergebnisse sind auf ein vom Service definiertes Maximum begrenzt. Wenn mehr Entitäten vorhanden sind, gilt die Obergrenze. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

Im Gegensatz zu den anderen Prüfungen skalieren die Ergebnisse sensibler Informationen mit dem Inhalt. Die Ergebnisse sind auf ein vom Service definiertes Maximum von 1000 Entitäten begrenzt. Wenn mehr Entitäten vorhanden sind, truncated gilt die Obergrenze. true Für eine umfassende Maskierung bei sehr langen Inhalten sollten Sie die Prüfung für kleinere Segmente durchführen.