기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

FAQ

기능 중요도를 결정하는 방법에는 여러 가지가 있지만 여기서는 설명하지 않습니다. 언급되지 않은 이유는 무엇입니까?

이 가이드는 모델 해석을 위한 가장 효과적이고 직접적인 방법이라고 생각하는 것에 초점을 맞추고 있습니다. 다른 방법은 속도와 계산 용이성 측면에서 이점이 있으며 모델에 따라 적절할 수도 있습니다. 이 문서의 지침은 규범적인 것이지 금지적인 것이 아닙니다.

권장 방법의 약점은 무엇입니까?

SHAP에는 모든 기능 조합의 가중 평균을 바탕으로 도출된 속성 분석이 필요합니다. 이러한 방식으로 얻은 속성은 특징 간에 강한 상호 작용이 있는 경우 특징 중요도를 추정하는 데 오해를 일으킬 수 있습니다. 적분 기울기를 기반으로 하는 방법은 대규모 신경망에 존재하는 차원 수가 많기 때문에 해석하기 어려울 수 있습니다. 모델은 특정 수준의 성능을 달성하기 위해 예상치 못한 방식으로 특징을 사용할 수 있으며 이는 모델마다 다를 수 있으므로 특징 중요도는 항상 모델에 따라 달라집니다.