配置、结果和分数示例

以下区块显示了每项检查的请求配置及其返回的结果，包括示例分数。

内容过滤器

内容筛选器为每个请求的类别返回一个条目，每个条目的值severityScore介于 0.0 和 1.0 之间。分数越高表示与该类别的匹配度越高。您可以选择算作违规的阈值。如果您需要高度受限的体验来屏蔽内容，请将阈值设置为较低端。

// config
"contentFilter": {
  "categories": [
    { "category": "VIOLENCE" },
    { "category": "HATE" }
  ]
}
// result
"contentFilter": {
  "results": [
    { "category": "VIOLENCE", "severityScore": 0.8 },
    { "category": "HATE",     "severityScore": 0.2 }
  ]
}

即时攻击

提示攻击会为每个请求的类别返回一个条目，其中带有severityScore.

// config
"promptAttack": {
  "categories": [
    { "category": "JAILBREAK" },
    { "category": "PROMPT_LEAKAGE" }
  ]
}
// result
"promptAttack": {
  "results": [
    { "category": "JAILBREAK",      "severityScore": 0.6 },
    { "category": "PROMPT_LEAKAGE", "severityScore": 0.2 }
  ]
}

敏感信息

敏感信息为每个检测到的实体实例返回一个条目。每个条目都有一个confidenceScore，contentIndex它出现在，以及该块内的 begin/end 字符偏移量，这对于客户端的屏蔽或编辑来说已经足够了。messageIndex结果上限为服务定义的最大值；如果存在的实体多于上限，truncated则为。true

// config
"sensitiveInformation": {
  "entities": [
    { "type": "EMAIL" },
    { "type": "US_SOCIAL_SECURITY_NUMBER" },
    { "type": "CREDIT_DEBIT_CARD_NUMBER" }
  ]
}
// result
"sensitiveInformation": {
  "results": [
    {
      "type": "EMAIL",
      "confidenceScore": 0.8,
      "messageIndex": 0,
      "contentIndex": 0,
      "beginOffset": 12,
      "endOffset": 28
    }
  ],
  "truncated": false
}

与其他检查不同，敏感信息的发现随内容而变化。结果上限为服务定义的最大 1000 个实体；如果存在的实体多于上限，truncated则为。true要对很长的内容进行详尽的屏蔽，请对较小的片段进行检查。