Nature: spiegare le decisioni dell'IA aiuta a capirne anche gli errori
Uno studio pubblicato su Nature presenta CW-Net, un sistema che collega le decisioni delle reti neurali a concetti comprensibili dall'uomo, testato su auto a guida autonoma anche su strade pubbliche a Las Vegas. In uno studio online con 99 partecipanti, le spiegazioni hanno migliorato la capacità delle persone di prevedere le decisioni del sistema e di riconoscerne i limiti, pur con un'accuratezza media di classificazione dei concetti del 54%.
Perché conta
Mostra che rendere l'IA spiegabile non serve solo ad aumentare la fiducia ma anche a capire quando non fidarsi, un principio cruciale per l'uso di algoritmi in diagnosi e decisioni cliniche in sanità.