기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
불확실성에 대한 정보 이론적 접근
이전 섹션의 불확실성에 대한 설명은 불확실성의 분산 개념에만 의존하지만 불확실성에 대한 정보 이론적 개념도 존재합니다. 이론적 우연한 불확실성에 대한 정보를 통합하면 전체 불확실성 추정치의 견고성이 향상됩니다(Gal 2016, Hein, Andriushchenko, Bitterwolf 2019, van Amersfoort 외 2020). 전체 불확실성은 섀넌의 엔트로피로 측정됩니다.
여기서
은 점 곱 연산자이고
는 클래스 수입니다.
예측 엔트로피
는 베이지안 신경망과 비베이지안 신경망 모두에서 사용할 수 있습니다. 이 전체 불확실성을 인식론적 구성요소와 우연론적 구성요소로 분해하려면 상호 정보
를 추정해야 하며, 이를 위해서는 베이지안 접근법이 필요합니다.
