Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Definizioni dei punteggi
Punteggio di gravità (per i filtri dei contenuti e il rilevamento tempestivo degli attacchi)
Con i filtri dei contenuti e il rilevamento tempestivo degli attacchi, l'API restituisce un punteggio di gravità, che è un valore numerico compreso nell'intervallo [0, 1] che rappresenta la maggiore corrispondenza per i criteri di controllo di sicurezza. Questi punteggi sono discreti e i valori possibili sono 0, 0,2, 0,4, 0,6, 0,8 e 1,0.
Un punteggio di 1 (massimo) è la partita più forte, che indica la corrispondenza più vicina alla definizione del controllo di sicurezza. Un punteggio pari a 0 (minimo) indica la corrispondenza più debole e indica che il contenuto è innocuo.
Il punteggio di gravità è una proprietà del contenuto stesso, non la certezza del modello sottostante in merito alla sua classificazione. Risponde alla domanda: «In che misura questo contenuto corrisponde ai criteri per il controllo di sicurezza?» Non risponde: «Quanto è sicuro il modello sottostante?» La tabella seguente elabora questa definizione.
| Salvaguardia | Granularity (Granularità) | Significato di un punteggio di gravità |
|---|---|---|
| Filtro dei contenuti | Per categoria (ODIO, VIOLENZA, INSULTI, CONDOTTA SESSUALE, SCORRETTA) | In che misura i contenuti corrispondono ai contenuti dannosi di ciascuna categoria? |
| Attacco rapido | Per vettore di attacco (JAILBREAK, PROMPT_INJECTION, PROMPT_LEAKAGE) | In che misura il contenuto corrisponde a ciascun vettore di attacco? |
Il punteggio di per sé non blocca alcun contenuto. Il punteggio viene utilizzato come soglia per controllare il comportamento restrittivo dell'applicazione.
Punteggio di confidenza (per i filtri di informazioni sensibili)
Con i filtri contenenti informazioni sensibili, l'API restituisce un punteggio di confidenza che indica la certezza del modello sulla presenza di un'entità PII. Questo punteggio è rilevante per il rilevamento delle PII e riflette la fiducia del modello sulla presenza delle entità PII selezionate quando avete richiamato l'API.
