本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 解释功能报告
<a name="image-classification-explainability-report"></a>

Amazon A SageMaker utopilot 提供可解释性报告，以帮助解释最佳候选模型如何预测图像分类问题。该报告可以帮助 ML 工程师、产品经理和其他内部利益相关者了解模型的特征。机器学习的透明度决定了使用方和监管机构是否信任和解释根据模型预测做出的决策。您可以将这些解释用于审计目的和满足监管要求，建立对模型的信任，支持人工决策，以及用于调试和提高模型性能。

用于图像分类的 Autopilot 解释功能使用可视化的类激活地图 (CAM) 方法，该方法生成热图，其中每种颜色的分布和强度强调了图像中对特定预测贡献最大的区域。这种方法依赖于从 [Eigen-CAM](https://arxiv.org/ftp/arxiv/papers/2008/2008.00299.pdf) 实施中得出的主成分。

Autopilot 生成 JSON 文件格式的解释功能报告。该报告包含基于验证数据集的分析详细信息。用于生成报告的每张图像都包含以下信息：
+ `input_image_uri`：输入图像的 Amazon S3 URI，这些图像获取作为热图的输入。
+ `heatmap_image_uri`：Autopilot 生成的热图图像的 Amazon S3 URI。
+ `predicted_label`：由 Autopilot 训练的最佳模型预测的标签类。
+ `probability`：预测 `predicted_label` 的置信度。

在对 `[DescribeAutoMLJobV2](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeAutoMLJobV2.html)` 响应的 `[BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CandidateArtifactLocations.html#sagemaker-Type-CandidateArtifactLocations-Explainability)` 位置，您可以找到为最佳候选项生成的解释功能构件的 Amazon S3 前缀。

以下示例说明 [Oxford-IIIT Pet Dataset](https://www.robots.ox.ac.uk/~vgg/data/pets/) 中几个样本的热图是什么样的。热图图像显示了颜色渐变，这些渐变表示图像中不同特征的相对重要性。与以蓝色表示的特征相比，以红色表示的区域在预测输入图像的“predicted\$1label”方面更重要。


****  

| 输入图像 | 热图图像 | 
| --- | --- | 
|  ![\[狗的原始图像。\]](http://docs.aws.amazon.com/zh_cn/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img1-input.png)  |  ![\[一只带有狗的热图，突出显示对预测标签贡献较大的区域。\]](http://docs.aws.amazon.com/zh_cn/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img1-output.png)  | 
|  ![\[猫的原始图像。\]](http://docs.aws.amazon.com/zh_cn/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img2-input.png)  |  ![\[一只带有猫热图，突出显示对预测标签贡献较大的区域。\]](http://docs.aws.amazon.com/zh_cn/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img2-output.png)  |