信頼性の低下

深層学習の実践者は、テストデータとトレーニングデータが同じ分布を共有していると考えることがよくあります。残念なことに、この仮定は実際には常に当てはまるとは限りません。世界は進化し、将来から生成されるデータはしばしば配信不能 (ood) になっています。その結果、状況が変化すると、分布内という仮定は現実的ではなくなり、予測や不確実性の信頼性も低下します (フォート、フー、ラクシュミナラヤナン 2019、ナリズニックら 2019、オバディアら 2019)。実際、信頼度の尺度が上がるにつれて予測パフォーマンスが低下し、サイレント・フェイルオーバーが発生する可能性があります。