翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

# 説明可能性のレポート
<a name="text-classification-explainability-report"></a>

Amazon SageMaker Autopilot では、最適なモデル候補がテキスト分類の問題をどのように予測するのかを説明するのに役立つ説明可能性レポートを提供します。このレポートは、ML エンジニア、プロダクトマネージャー、その他の内部ステークホルダーがモデルの特性を理解するのに役立ちます。モデル予測に基づく決定を信頼して解釈するために、消費者も規制当局も機械学習の透明性を必要としています。これらの説明は、監査や規制要件への適合、モデルへの信頼の構築、人間の意思決定のサポート、モデルのパフォーマンスのデバッグと改善に使用できます。

テキスト分類用の Autopilot 説明機能は、公理的な属性を用いた積分勾配を使用しています。**このアプローチは、[ディープネットワークの公理的な属性](https://arxiv.org/pdf/1703.01365.pdf)の実装に依存しています。

Autopilot は説明可能性レポートを JSON ファイルとして生成します。レポートには、検証データセットに基づく分析の詳細が含まれます。レポートを生成するために使用されるそれぞれの例には、次の情報が含まれます。
+ `text`: 入力テキストの内容の説明。
+ `token_scores`: テキスト内の各トークンのスコアの一覧。
+ 
  + `attribution`: トークンの重要度を示すスコア。
  + `description.partial_text`: トークンを表す部分的文字列。
+ `predicted_label`: 最適なモデル候補により予測されたラベルクラス。
+ `probability`: `predicted_label` が予測された際の信頼度。

`[DescribeAutoMLJobV2](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeAutoMLJobV2.html)` へのレスポンスにある `[BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CandidateArtifactLocations.html#sagemaker-Type-CandidateArtifactLocations-Explainability)` で、最適な候補に対して生成された説明可能性アーティファクトへの Amazon S3 プレフィックスを確認できます。

説明可能性アーティファクトに含まれる分析コンテンツの例を次に示します。

```
{
    "text": "It was a fantastic movie!",
    "predicted_label": 2,
    "probability": 0.9984835,
    "token_scores": [
        {
            "attribution": 0,
            "description": {
                "partial_text": "It"
            }
        },
        {
            "attribution": -0.022447118861679088,
            "description": {
                "partial_text": "was"
            }
        },
        {
            "attribution": -0.2164326456817965,
            "description": {
                "partial_text": "a"
            }
        },
        {
            "attribution": 0.675,
            "description": {
                "partial_text": "fantastic"
            }
        },
        {
            "attribution": 0.416,
            "description": {
                "partial_text": "movie!"
            }
        }
    ]
}
```

この JSON レポート例では、説明機能がテキスト `It was a fantastic movie!` を評価し、全体的な予測ラベルに対する各トークンの寄与度をスコア付けしています。予測ラベルは `2` で、99.85% の確率で強い肯定的な感情を示しています。次に JSON の例では、この予測に対する個々のトークンの寄与度について詳しく説明しています。例えば、トークン `fantastic` の方がトークン `was` よりも強い属性を持っています。最終的な予測に最も貢献したトークンです。