Rapid Trust Calibration through Interpretable and Uncertainty-Aware AI
Pubblicato: 10 luglio 2020
Autori: Richard Tomsett, Alun Preece, Dave Braines, Federico Cerutti, Supriyo Chakraborty, Mani B. Srivastava, Gavin Pearson, Lance M. Kaplan
Il paper parte da un problema pratico: in scenari ad alto rischio non basta che un sistema di AI fornisca una previsione, serve capire anche quanto quella previsione sia affidabile.
Gli autori propongono il concetto di rapid trust calibration: dare agli operatori elementi sufficienti per decidere rapidamente se fidarsi, quanto fidarsi e dove il sistema sta mostrando incertezza.