本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 可解釋性報告
<a name="text-classification-explainability-report"></a>

Amazon SageMaker Autopilot 提供可解釋性報告，協助說明最佳模型候選項目如何預測文字分類問題。本報告可協助機器學習 (ML) 工程師、產品經理和其他內部利害關係人了解模型的特性。消費者和監管機構都仰賴機器學習的透明度來信任和解譯在模型預測上做出的決定。您可以使用這些說明來稽核和符合法規要求、建立對模型的信任、支援人為決定，以及偵錯和改善模型效能。

用於文字分類的 Autopilot 解釋性功能使用公理屬性方法*整合式漸層*。這種方法依賴於[深度網路公理屬性](https://arxiv.org/pdf/1703.01365.pdf)的實作。

Autopilot 產生 JSON 檔案格式的可解釋性報告。報告包含基於驗證資料集的分析詳細資訊。用於產生報告的每個範例都包含下列資訊：
+ `text`：已解釋的輸入文字內容。
+ `token_scores`：文字中每個權杖的分數清單。
+ 
  + `attribution`：描述權杖重要性的分數。
  + `description.partial_text`：代表權杖的部分子字串。
+ `predicted_label`：由最佳模型候選項目預測的標籤類別。
+ `probability`：預測 `predicted_label` 的信賴度。

您可以在 `[BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CandidateArtifactLocations.html#sagemaker-Type-CandidateArtifactLocations-Explainability)` 上的 `[DescribeAutoMLJobV2](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeAutoMLJobV2.html)` 回應中，找到針對最佳候選項目產生之可解釋性成品的 Amazon S3 字首。

以下是您可以在可解釋性成品中找到的分析內容範例。

```
{
    "text": "It was a fantastic movie!",
    "predicted_label": 2,
    "probability": 0.9984835,
    "token_scores": [
        {
            "attribution": 0,
            "description": {
                "partial_text": "It"
            }
        },
        {
            "attribution": -0.022447118861679088,
            "description": {
                "partial_text": "was"
            }
        },
        {
            "attribution": -0.2164326456817965,
            "description": {
                "partial_text": "a"
            }
        },
        {
            "attribution": 0.675,
            "description": {
                "partial_text": "fantastic"
            }
        },
        {
            "attribution": 0.416,
            "description": {
                "partial_text": "movie!"
            }
        }
    ]
}
```

在此 JSON 報告範例中，解釋性功能會評估文字 `It was a fantastic movie!`，並評估其每個權杖對整體預測標籤的貢獻。預測標籤為 `2`，這是一種強烈的正面情緒，機率為 99.85％。然後，JSON 範例詳細介紹了每個個別權杖對此預測的貢獻。例如，權杖 `fantastic` 具有比權杖 `was` 更強的屬性。這是對最終預測做出最大貢獻的權杖。