Configurazioni, risultati e punteggi di esempio

I blocchi seguenti mostrano la configurazione della richiesta di ogni controllo insieme al risultato restituito, inclusi i punteggi di esempio.

Filtro dei contenuti

Il filtro dei contenuti restituisce una voce per categoria richiesta, ciascuna con un valore severityScore compreso tra 0,0 e 1,0. Un punteggio più alto indica una maggiore corrispondenza con quella categoria. Scegli la soglia che conta come violazione. Se hai bisogno di un'esperienza altamente limitata per bloccare i contenuti, imposta la soglia all'estremità inferiore.

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

Attacco rapido

L'attacco rapido restituisce una voce per categoria richiesta con un. severityScore

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

Informazioni sensibili

Le informazioni sensibili restituiscono una voce per istanza di entità rilevata. Ogni voce presenta un valoreconfidenceScore, la messageIndex e la posizione in cui contentIndex è apparsa e i begin/end caratteri sono scostati all'interno di quel blocco, il che è sufficiente per mascherare o oscurare il testo sul lato client. I risultati sono limitati a un limite massimo definito dal servizio; se esistono più entità rispetto al limite, è. truncated true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

A differenza degli altri controlli, i risultati relativi alle informazioni sensibili si adattano al contenuto. I risultati sono limitati a un massimo di 1000 entità definito dal servizio; se esistono più entità rispetto al limite, è. truncated true Per una mascheratura esaustiva su contenuti molto lunghi, esegui il controllo su segmenti più piccoli.