기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

# 설명 가능성 보고서
<a name="text-classification-explainability-report"></a>

Amazon SageMaker Autopilot은 최적의 모델 후보가 텍스트 분류 문제를 예측하는 방법을 설명하는 데 도움이 되는 설명 가능성 보고서를 제공합니다. 이 보고서는 ML 엔지니어, 제품 관리자 및 기타 내부 이해 관계자가 모델의 특성을 이해하는 데 도움이 될 수 있습니다. 소비자와 규제 기관 모두 모델 예측에 대한 결정을 신뢰하고 해석하기 위해 기계 학습의 투명성에 의존합니다. 이러한 설명을 감사 및 규제 요구 사항 충족, 모델에 대한 신뢰 구축, 인간의 의사 결정 지원, 모델 성능 디버깅 및 개선 등에 사용할 수 있습니다.

텍스트 분류를 위한 Autopilot 설명 기능은 공리적 속성 분석 방법인 *통합 그라데이션*을 사용합니다. 이 접근 방식은 [딥 네트워크를 위한 Axiomatic Attribution](https://arxiv.org/pdf/1703.01365.pdf)의 구현을 기반으로 합니다.

Autopilot은 설명 가능성 보고서를 JSON 파일로 생성합니다. 보고서에는 검증 데이터세트를 기반으로 하는 분석 세부 정보가 포함됩니다. 보고서를 생성하는 데 사용된 각 샘플에는 다음 정보가 포함됩니다.
+ `text`: 입력 텍스트 내용에 대한 설명.
+ `token_scores`: 텍스트의 모든 토큰에 대한 점수 목록.
+ 
  + `attribution`: 토큰의 중요도를 나타내는 점수.
  + `description.partial_text`: 토큰을 나타내는 부분 하위 문자열.
+ `predicted_label`: 최적의 모델 후보가 예측한 레이블 클래스.
+ `probability`: `predicted_label`이 예측되는 신뢰도.

`[BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CandidateArtifactLocations.html#sagemaker-Type-CandidateArtifactLocations-Explainability)`에서 `[DescribeAutoMLJobV2](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeAutoMLJobV2.html)`에 대한 응답에 최적의 후보에 대해 생성된 설명 가능성 아티팩트의 Amazon S3 접두사를 찾을 수 있습니다.

다음은 설명 가능성 아티팩트에서 찾을 수 있는 분석 콘텐츠의 예제입니다.

```
{
    "text": "It was a fantastic movie!",
    "predicted_label": 2,
    "probability": 0.9984835,
    "token_scores": [
        {
            "attribution": 0,
            "description": {
                "partial_text": "It"
            }
        },
        {
            "attribution": -0.022447118861679088,
            "description": {
                "partial_text": "was"
            }
        },
        {
            "attribution": -0.2164326456817965,
            "description": {
                "partial_text": "a"
            }
        },
        {
            "attribution": 0.675,
            "description": {
                "partial_text": "fantastic"
            }
        },
        {
            "attribution": 0.416,
            "description": {
                "partial_text": "movie!"
            }
        }
    ]
}
```

이 JSON 보고서 샘플에서 설명 기능은 텍스트 `It was a fantastic movie!`를 평가하고 전체 예측된 레이블에 대한 각 토큰의 기여도에 점수를 매깁니다. 예측 레이블은 매우 긍정적인 감정인 `2`이며 확률은 99.85% 입니다. 그런 다음 JSON 샘플은 이 예측에 대한 각 개별 토큰의 기여도를 자세히 설명합니다. 예를 들어 토큰 `fantastic`의 특성은 토큰 `was`보다 더 강력합니다. 최종 예측에 가장 많이 기여한 토큰입니다.