Ejemplos de configuraciones, resultados y puntuaciones

Los siguientes bloques muestran la configuración de solicitud de cada comprobación junto con el resultado que devuelve, incluidas las puntuaciones de ejemplo.

Filtro de contenido

El filtro de contenido devuelve una entrada por categoría solicitada, cada una con un valor severityScore entre 0.0 y 1.0. Una puntuación más alta indica una coincidencia más sólida con esa categoría. Tú eliges el umbral que se considera una infracción. Si necesitas una experiencia muy restringida para bloquear contenido, establece el umbral en el extremo inferior.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Ataque rápido

Prompt Attack devuelve una entrada por categoría solicitada con unseverityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Información confidencial

La información confidencial devuelve una entrada por instancia de entidad detectada. Cada entrada tiene una y en la contentIndex que aparececonfidenceScore, messageIndex y los begin/end caracteres se desplazan dentro de ese bloque, lo que es suficiente para ocultarla o redactarla por parte del cliente. Los resultados se limitan a un máximo definido por el servicio; si existen más entidades que el límite, sí. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

A diferencia de las otras comprobaciones, los hallazgos de información confidencial aumentan con el contenido. Los resultados se limitan a un máximo de 1000 entidades definido por el servicio; si existen más entidades que el límite, truncated el límite máximo. true Para enmascarar de forma exhaustiva el contenido muy largo, compruebe los segmentos más pequeños.