Quando l’IA sbaglia, corregga in fretta e apertamente

Di che cosa si tratta

Concordi ora un breve piano, prima che qualcosa vada storto, per il giorno in cui un errore dell’IA arriva a un cliente, a un tribunale o al pubblico. Il piano dice chi deve essere avvisato, chi corregge o ritira il lavoro, chi informa le persone coinvolte e chi verifica se lo stesso errore si trova in altri lavori.

Che cosa mostrano le prove

Questo consiglio si basa su otto casi documentati. Nella maggior parte, ciò che l’azienda ha fatto dopo l’errore ha determinato quanto è costato l’errore.

Aziende che hanno difeso l’errore

Dodici settimane a difendere sentenze inventate. Dopo che uno studio legale di New York aveva depositato sei sentenze inventate, i suoi avvocati le hanno difese quando sono state contestate. Il tribunale ha detto che l’esito sarebbe stato “quite different” [“ben diverso”] se avessero ammesso il problema la prima volta che era stato chiesto loro.
“Cosmetic errors” [“errori di forma”]. Nella sentenza della High Court inglese, la prima risposta di un centro di assistenza legale, quando gli fu detto che cinque sentenze citate non esistevano, fu chiamarle “cosmetic errors” [“errori di forma”]. Il tribunale gli ha ordinato di pagare £2.000 di spese inutili e lo ha segnalato all’autorità di controllo.
Tre mesi per riconoscere una piccola richiesta. Un cliente ha scritto ad Air Canada per circa tre mesi prima che la compagnia aerea ammettesse che il suo chatbot aveva usato “misleading words” [“parole fuorvianti”]. La controversia è finita davanti a un tribunale, e la compagnia ha perso in pubblico per poche centinaia di dollari.

Aziende che hanno ammesso l’errore

Ritirato il giorno dopo. Gli avvocati di un grande studio legale statunitense hanno ritirato l’atto il giorno dopo la domanda del tribunale, hanno detto apertamente che era stata usata l’IA e hanno pagato le spese della controparte. Il tribunale ha indicato la “honesty and candor” [“onestà e franchezza”] dell’autore dell’atto come motivo per una sanzione più lieve, e non ha sanzionato lo studio. Il tribunale ha anche osservato che gli avvocati avrebbero potuto agire prima: la controparte aveva messo in dubbio le sentenze otto giorni prima.
Un controllo esterno di tutto il resto. Un altro studio legale statunitense ha ammesso l’errore il giorno stesso della domanda del tribunale e ha pagato un secondo studio per controllare più di 2.400 citazioni nei suoi altri atti. Il tribunale ha detto che i risultati di quel controllo erano il motivo per cui non aveva sospeso gli avvocati.
Autodenuncia. Il solicitor di uno studio legale inglese di dieci persone si è scusato e si è segnalato da solo alla sua autorità di controllo. Il tribunale ha deciso di non avviare un procedimento per oltraggio alla corte.
Marcia indietro in poche settimane. Commonwealth Bank of Australia ha annunciato che 45 posti nell’assistenza clienti sarebbero stati eliminati e sostituiti da un assistente vocale con l’IA. Dopo la contestazione del sindacato, la banca ha detto che la sua valutazione era stata un “error” [“errore”] e che quei posti non erano in esubero. Si è scusata e ha offerto al personale la scelta tra restare, passare a un altro ruolo o andarsene con l’indennità di esubero.

Una terza risposta: ammettere gli errori, difendere le conclusioni

Deloitte Canada ha scritto un piano sul personale sanitario per una provincia canadese, al costo di circa CAD 1,6 milioni. La stampa ha riportato almeno quattro citazioni di articoli di ricerca che non esistono. Deloitte ha riconosciuto che le quattro citazioni erano sbagliate e ha confermato le conclusioni del rapporto. Il racconto viene da articoli di stampa.

Un altro caso mostra una correzione lenta. Un rapporto di consulenza per un cliente pubblico è stato ripubblicato per correggere citazioni sbagliate, dichiarando l’uso dell’IA. Una seconda correzione è arrivata quattro mesi dopo.

Come si fa

Stabilisca chi viene avvisato. Una persona, di solito il responsabile dell’IA o l’amministratore delegato. Chiunque trovi un errore dell’IA in un lavoro già uscito lo avvisa il giorno stesso.
Renda sicuro segnalare. Dica in anticipo che chi segnala in fretta un proprio errore sarà trattato diversamente da chi lo nasconde. Veda protegga la sicurezza psicologica durante l’introduzione dell’IA.
Fermi prima il danno. Ritiri il documento, corregga la pagina, disattivi la risposta del chatbot.
Informi le persone coinvolte, con parole semplici. Che cosa era sbagliato, qual è l’informazione corretta e che cosa sta facendo. Non lo chiami un errore minore finché non sa che lo è.
Dica che c’entrava l’IA, se è così. Nei casi sopra, i tribunali lo hanno scoperto comunque.
Verifichi fin dove arriva. Guardi gli altri lavori fatti dalla stessa persona, con lo stesso strumento o con lo stesso metodo nello stesso periodo. Corregga tutto in un’unica volta.
Ripari il costo. Rimborsi, rifaccia il lavoro o paghi ciò che l’errore è costato all’altra parte.
Cambi il processo e dica che cosa ha cambiato. Un nuovo controllo, un blocco, un avviso nello strumento. Veda faccia controllare a una persona.
Lo metta per iscritto. Mezza pagina su che cosa è successo e che cosa è cambiato. La usi nella formazione.

Che cosa misurare

Il tempo tra la scoperta di un errore e l’avviso alla persona coinvolta.
Il numero di correzioni per ogni incidente. L’obiettivo è una.
Il numero di errori segnalati dal personale stesso, rispetto a quelli trovati da persone esterne.

Dove non funziona

La prima risposta minimizza. “Minore” e “di forma” sono state le parole che hanno peggiorato le cose.
Correggere solo l’errore che qualcuno ha notato. È la seconda correzione a danneggiare la fiducia.
Dare la colpa allo strumento. Air Canada ha sostenuto che la compagnia aerea non era responsabile del suo chatbot. Il tribunale l’ha definita “a remarkable submission” [“una tesi singolare”].
Punire chi segnala. La volta successiva nessuno lo farà.

Per dimensione dell’azienda

Micro e piccole imprese: il titolare viene avvisato il giorno stesso e scrive personalmente al cliente.
Medie imprese: un referente con nome e cognome, una lista di controllo di mezza pagina con i passi sopra e un registro degli incidenti.
Medio-grandi e grandi imprese: gli errori dell’IA entrano nel processo di gestione degli incidenti già esistente, con l’ufficio legale e la comunicazione coinvolti dal primo giorno.

Casi aziendali

Aziende che l’hanno fatto

Cosa è successo senza questa pratica

Aziende che l’hanno adottata in seguito

Fonti

Nessuno studio pubblicato mette alla prova direttamente questa pratica, quindi la valutazione è Preliminari. La valutazione si basa sui casi aziendali qui sopra e sulle fonti qui sotto.

Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com
Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
Johnson v. Dunn, No. 2:21-cv-1701-AMM. Sanctions order, 23 July 2025. US District Court, Northern District of Alabama. storage.courtlistener.com
Information Age (21 August 2025). CBA reverses AI-driven job cuts, admits error. ia.acs.org.au
HR Reporter (25 November 2025). AI errors: province grapples with Deloitte report marred by false citations. hrreporter.com