In sintesi
- Fonte
- Senoner, Schallmoser, Kratzwald, Feuerriegel and Netland (2024). Explainable AI improves task performance in human–AI collaboration. Scientific Reports, 14, 31150. doi:10.1038/s41598-024-82501-9
- Come è stato condotto
- Due esperimenti registrati in anticipo. I partecipanti sono stati assegnati a caso a vedere solo il punteggio dell’IA, oppure il punteggio con un’immagine che segnava le zone a cui l’IA aveva reagito. L’IA era la stessa nei due gruppi. Esperimento randomizzato. Le persone sono state assegnate a caso a lavorare con o senza lo strumento, e i due gruppi sono stati confrontati.
- Chi ha partecipato
- 48 operai di fabbrica che hanno fatto 9.600 valutazioni di prodotti elettronici, e 113 radiologi che hanno fatto 5.650 valutazioni di radiografie del torace.
- Dove
- Una fabbrica di elettronica di Siemens e un esperimento online con radiologi in attività.
“Our results demonstrate that domain experts make subpar decisions when they are supported by a black-box AI algorithm with opaque predictions.” [I nostri risultati dimostrano che gli esperti di un campo prendono decisioni peggiori del dovuto quando sono supportati da un algoritmo di IA a scatola nera con previsioni opache.]
Che cosa ha trovato
Entrambi gli esperimenti usavano un’attività di ispezione visiva. Un’IA dava a ogni immagine un punteggio da 0 a 100. Metà dei partecipanti vedeva solo il punteggio. L’altra metà vedeva anche l’immagine con zone colorate che segnavano ciò a cui l’IA aveva reagito. La precisione riportata qui sotto dà lo stesso peso ai pezzi difettosi e a quelli senza difetti.
In fabbrica:
- Solo punteggio: 88,6% di precisione. Punteggio e immagine: 96,3%. L’IA da sola arrivava al 95,6%.
- Più difetti individuati. Gli operai con l’immagine hanno individuato il 93,0% dei prodotti difettosi. Gli operai con il solo punteggio l’82,0%.
- Meno risposte giuste scartate. Gli operai con il solo punteggio avevano 3,6 volte più probabilità di contraddire l’IA quando l’IA aveva ragione.
- Più risposte sbagliate individuate. Gli operai con l’immagine hanno corretto il 96,9% delle previsioni sbagliate dell’IA. Gli operai con il solo punteggio l’86,4%.
- Il 73,1% degli operai con l’immagine ha fatto meglio dell’IA da sola.
Con i radiologi:
- Solo punteggio: 79,1% di precisione. Punteggio e immagine: 83,8%. L’IA da sola arrivava all’82,2%.
- Nessuna differenza nelle lesioni trovate. Entrambi i gruppi hanno trovato il 90,4% delle immagini che mostravano una lesione polmonare. Il miglioramento veniva da meno falsi allarmi.
- Le risposte sbagliate non venivano individuate più spesso. I radiologi con l’immagine hanno corretto il 50,8% delle previsioni sbagliate dell’IA. Quelli con il solo punteggio il 57,7%.
Quando vale il risultato
I partecipanti erano esperti: in media 13,8 anni di lavoro per gli operai e 13,5 per i radiologi. Era stato detto loro che l’IA poteva sbagliare. La spiegazione era un’immagine, che un esperto può confrontare con l’originale a colpo d’occhio.
Limiti
- Gli autori stessi indicano il limite principale: un solo tipo di attività, l’ispezione visiva, e un solo tipo di spiegazione, un’immagine con le zone segnate.
- Gli esperimenti usavano un insieme fisso di immagini con un limite di tempo: 200 immagini di prodotti in fabbrica e 50 radiografie per i radiologi.
- Uno degli autori dichiara finanziamenti alla ricerca da Siemens.
Pratiche che usano questo studio
Questo studio sostiene: