Exemplos de configurações, resultados e pontuações

Os blocos a seguir mostram a configuração de cada solicitação de verificação junto com o resultado que ela retorna, incluindo exemplos de pontuações.

Filtro de conteúdo

O filtro de conteúdo retorna uma entrada por categoria solicitada, cada uma com um valor severityScore entre 0,0 e 1,0. Uma pontuação mais alta indica uma correspondência mais forte com essa categoria. Você escolhe o limite que conta como violação. Se você precisar de uma experiência altamente restrita para bloquear conteúdo, defina o limite na extremidade inferior.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Ataque imediato

O ataque imediato retorna uma entrada por categoria solicitada com severityScore a.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Informações confidenciais

As informações confidenciais retornam uma entrada por instância de entidade detectada. Cada entrada tem umconfidenceScore, o messageIndex e em contentIndex que apareceu, e o begin/end caractere se desloca dentro desse bloco, o que é suficiente para mascaramento ou redação do lado do cliente. Os resultados são limitados a um máximo definido pelo serviço; se existirem mais entidades do que o limite, é. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

Ao contrário das outras verificações, as descobertas de informações confidenciais variam de acordo com o conteúdo. Os resultados são limitados a um máximo definido pelo serviço de 1000 entidades; se existirem mais entidades do que o limite, é. truncated true Para mascarar exaustivamente conteúdo muito longo, execute a verificação em segmentos menores.