As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Definições de pontuação
Pontuação de gravidade (para filtros de conteúdo e detecção imediata de ataques)
Com filtros de conteúdo e detecção imediata de ataques, a API retorna uma pontuação de gravidade, que é um valor numérico no intervalo [0, 1] que representa a correspondência mais forte para os critérios de verificação de segurança. Essas pontuações são discretas, com os valores possíveis sendo 0, 0,2, 0,4, 0,6, 0,8 e 1,0.
Uma pontuação de 1 (máximo) é a combinação mais forte, indicando a correspondência mais próxima da definição da verificação de segurança. Uma pontuação de 0 (mínimo) é a correspondência mais fraca, indicando que o conteúdo é benigno.
A pontuação de severidade é uma propriedade do conteúdo em si, não a certeza do modelo subjacente sobre sua classificação. Ele responde à pergunta: “Em que medida esse conteúdo corresponde aos critérios da verificação de segurança?” Ele não responde: “Qual é a certeza do modelo subjacente?” A tabela a seguir elabora essa definição.
| Safeguard | Granularity | Significado de uma pontuação de gravidade |
|---|---|---|
| Filtro de conteúdo | Por categoria (ÓDIO, VIOLÊNCIA, INSULTOS, SEXO, MÁ CONDUTA) | Em que medida o conteúdo corresponde ao conteúdo nocivo de cada categoria? |
| Ataque imediato | Por vetor de ataque (JAILBREAK, PROMPT_INJECTION, PROMPT_LEAKAGE) | Em que medida o conteúdo corresponde a cada vetor de ataque? |
A pontuação por si só não bloqueia nenhum conteúdo. Você usa a pontuação como um limite para controlar o quão restritivo seu aplicativo age.
Pontuação de confiança (para filtros de informações confidenciais)
Com filtros de informações confidenciais, a API retorna uma pontuação de confiança que indica a certeza do modelo de que uma entidade de PII está presente. Essa pontuação é relevante para a detecção de PII e reflete a confiança do modelo sobre a presença de entidades de PII que você selecionou ao invocar a API.