Degenerazione dell'affidabilità

I professionisti del deep learning spesso ritengono che i dati di test e i dati di formazione condividano la stessa distribuzione. Sfortunatamente, questa ipotesi non è sempre valida nella pratica. Il mondo si evolve e i dati generati dal futuro sono spesso out-of-distribution (buoni). Di conseguenza, man mano che il contesto cambia, l'ipotesi di distribuzione diventa meno realistica, così come l'affidabilità delle nostre previsioni e incertezze (Fort, Hu e Lakshminarayanan 2019, Nalisnick et al. 2019, Ovadia et al. 2019). In effetti, le prestazioni predittive possono diminuire mentre aumentano le misure di fiducia, il che causa un fallimento silenzioso.