기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다. # 설명 가능성 보고서 Amazon SageMaker Autopilot은 최적의 모델 후보가 이미지 분류 문제를 예측하는 방법을 설명하는 데 도움이 되는 설명 가능성 보고서를 제공합니다. 이 보고서는 ML 엔지니어, 제품 관리자 및 기타 내부 이해 관계자가 모델의 특성을 이해하는 데 도움이 될 수 있습니다. 소비자와 규제 기관 모두 모델 예측에 대한 결정을 신뢰하고 해석하기 위해 기계 학습의 투명성에 의존합니다. 이러한 설명을 감사 및 규제 요구 사항 충족, 모델에 대한 신뢰 구축, 인간의 의사 결정 지원, 모델 성능 디버깅 및 개선 등에 사용할 수 있습니다. 이미지 분류를 위한 Autopilot 설명 기능은 각 색상의 분포와 강도가 특정 예측에 가장 많이 기여하는 이미지 영역을 강조하는 히트맵을 생성하는 비주얼 CAM(Class Activation Map) 접근 방식을 사용합니다. 이 접근 방식은 [EiGEN-CAM](https://arxiv.org/ftp/arxiv/papers/2008/2008.00299.pdf) 구현에서 파생된 주요 구성 요소에 의존합니다. Autopilot은 설명 가능성 보고서를 JSON 파일로 생성합니다. 보고서에는 검증 데이터세트를 기반으로 하는 분석 세부 정보가 포함됩니다. 보고서를 생성하는 데 사용된 각 이미지에는 다음 정보가 포함됩니다. + `input_image_uri`: 히트맵의 입력으로 획득한 입력 이미지에 대한 Amazon S3 URI입니다. + `heatmap_image_uri`: Autopilot으로 생성된 히트맵 이미지에 대한 Amazon S3 URI입니다. + `predicted_label`: Autopilot으로 훈련된 최적 모델이 예측한 레이블 클래스. + `probability`: `predicted_label`이 예측되는 신뢰도. `[BestCandidate.CandidateProperties.CandidateArtifactLocations.Explainability](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CandidateArtifactLocations.html#sagemaker-Type-CandidateArtifactLocations-Explainability)`에서 `[DescribeAutoMLJobV2](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_DescribeAutoMLJobV2.html)`에 대한 응답에 최적의 후보에 대해 생성된 설명 가능성 아티팩트의 Amazon S3 접두사를 찾을 수 있습니다. 다음 예제는 [Oxford-IIT Pet 데이터세트](https://www.robots.ox.ac.uk/~vgg/data/pets/)의 일부 샘플에서 히트맵이 어떻게 보이는지 보여줍니다. 히트맵 이미지는 이미지 내 여러 특징의 상대적 중요성을 나타내는 색상 그라데이션을 표시합니다. 빨간색은 파란색으로 표시되는 특징에 비해 입력 영상의 “predicted\$1label”을 예측하는 데 더 중요한 영역을 나타냅니다. **** | 입력 이미지 | 히트맵 이미지 | | --- | --- | | ![\[강아지의 원본 이미지.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img1-input.png) | ![\[예측된 라벨에 더 큰 영향을 미치는 리전을 강조 표시하는 히트맵이 포함된 개 이미지.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img1-output.png) | | ![\[고양이의 원본 이미지.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img2-input.png) | ![\[예측된 라벨에 더 큰 영향을 미치는 리전을 강조 표시하는 히트맵이 포함된 고양이 이미지.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/autopilot/autopilot-image-classification-explainability-img2-output.png) |