Faccia controllare a una persona tutto ciò che va a un cliente o ha valore legale

Di che cosa si tratta

Prima che un risultato dell’IA venga usato, lo faccia controllare a una persona con nome e cognome, che se ne assume la responsabilità. Ne faccia un passo fisso per due tipi di risultato.

• Tutto ciò che va a un cliente o fuori dall’azienda: email, preventivi, rapporti, consulenze, risposte del chatbot, testi pubblicati.
• Tutto ciò che ha peso legale o finanziario: contratti, atti depositati presso tribunali e autorità, decisioni su assunzioni e licenziamenti, decisioni sul credito, bilanci.

Controllare significa confrontare il risultato con qualcosa di reale: il documento di origine, la banca dati, il regolamento, i fatti del caso. Leggerlo per il tono non è un controllo.

Un controllo può diventare anche una condizione della sua assicurazione. Negli Stati Uniti, la stampa di settore riferisce che le clausole standard delle polizze di responsabilità civile possono ora escludere le perdite causate dall’IA generativa. Veda conosca le regole che valgono.

Che cosa mostrano le prove

Questo consiglio si basa sui casi documentati elencati più sotto in “Casi aziendali”. In ciascuno, un risultato dell’IA è uscito senza che nessuno lo confrontasse con una fonte.

I casi non sono stranezze. Al 16 ottobre 2026, la banca dati di un ricercatore elenca 2.199 decisioni giudiziarie che riguardano materiale inventato dall’IA: 1.266 riguardano persone senza avvocato, 871 avvocati e 32 giudici.

• Fonti inventate sono arrivate in tribunale. Uno studio legale di New York ha depositato sei sentenze che non esistevano. Uno studio legale inglese di dieci persone ne ha depositate 18. Un grande studio legale statunitense ne ha depositate otto, prese dal suo strumento di IA interno. Un altro ne ha depositate cinque. Ogni volta, cercare le fonti avrebbe fatto scoprire l’errore.
• Una seconda firma non è servita. Nel caso del grande studio statunitense, altri due avvocati hanno firmato l’atto senza leggerlo. Il tribunale ha multato anche loro.
• Un rapporto sbagliato è arrivato a un tribunale e a un cliente. Un rapporto sulla tutela di un minore scritto con ChatGPT descriveva un grave rischio per un bambino come un punto di forza. Un rapporto di consulenza ha dovuto essere ripubblicato due volte.
• La risposta di un chatbot ha vincolato l’azienda. Un tribunale ha ordinato ad Air Canada di pagare un cliente che si era fidato della risposta sbagliata del suo chatbot.
• Il personale ha trattato un allarme come un fatto. In Rite Aid, i dipendenti hanno accusato dei clienti perché un sistema di riconoscimento facciale li aveva segnalati. Il sistema sbagliava spesso.
• Dove la divisione dei compiti era stata progettata, ha funzionato. Un’agenzia di selezione del personale ha lasciato all’IA i colloqui e ha tenuto ogni decisione di assunzione in mano a un selezionatore. Le offerte di lavoro e la permanenza in azienda sono aumentate in uno studio in cui i candidati erano assegnati a caso a un intervistatore IA o a uno umano.

Gli studi spiegano i limiti:

• In alcune attività l’IA sbaglia con sicurezza. In un esperimento con 758 consulenti, le persone che usavano l’IA avevano 19 punti percentuali di probabilità in meno di arrivare alla risposta giusta in un’attività che l’IA svolgeva male.
• Coinvolgere una persona non è una garanzia. In 106 esperimenti, una persona che lavorava con l’IA faceva in media peggio della migliore delle due da sola. Chi rivede solo di sfuggita aggiunge poco. Il controllo deve essere un confronto vero con una fonte, fatto da qualcuno che conosce la materia.
• Chi controlla può star perdendo la competenza che il controllo richiede. In un’indagine su 319 lavoratori della conoscenza, chi aveva più fiducia nell’IA riferiva meno pensiero critico sui suoi risultati. Le risposte sono dichiarate dagli interessati, e gli autori lavorano per Microsoft, che vende strumenti di IA. In uno studio in quattro centri di endoscopia in Polonia, tre mesi dopo l’introduzione dell’IA i medici trovavano meno lesioni senza l’IA.
• Un controllo può essere indirizzato dove sta il rischio. In una sperimentazione svedese sullo screening mammografico con 105.934 donne, l’IA decideva quali esami avevano un solo lettore e quali due. Sono stati trovati più tumori, 6,4 contro 5,0 ogni 1.000 donne, e il lavoro di lettura dei radiologi è calato del 44,2%. Una persona non ha controllato ogni esame allo stesso modo.

Come si fa

1. Elenchi ciò che esce. Annoti ogni tipo di risultato in cui si usa l’IA, e quali arrivano a un cliente o hanno peso legale.
2. Nomini chi controlla ciascuno. Una persona, per nome o per ruolo. Chi controlla deve conoscere la materia abbastanza da accorgersi di un errore.
3. Dica con che cosa confrontare. Per fatti e cifre: il documento di origine. Per citazioni e riferimenti: li cerchi uno per uno in una banca dati reale. Per le risposte del chatbot: il regolamento o il listino prezzi in vigore.
4. Inserisca il controllo nel processo. Aggiunga una riga al modulo di approvazione, alla lista di controllo per gli atti o al flusso di lavoro di pubblicazione. Uno degli studi legali citati sopra ha introdotto un controllo prima di ogni deposito in tribunale: verificare che ogni citazione esista, sia esatta e sia pertinente.
5. Dia un significato alla firma. Chi firma ha letto il documento. Un tribunale ha definito questo dovere uno di quelli che non si possono affidare ad altri.
6. Controlli anche il materiale in arrivo. Nel caso inglese la ricerca fatta con l’IA veniva dal cliente. Applichi lo stesso controllo alle bozze di clienti, fornitori e liberi professionisti, e ai consigli dell’IA che mette in pratica lei stesso. Nella sperimentazione in Kenya, i titolari mettevano in pratica da soli i suggerimenti di un consulente di IA, e i più deboli hanno fatto peggio. Veda verifichi i consigli dell’IA prima di metterli in pratica.
7. Per i chatbot, controlli a campione. Questo vale anche per l’IA dentro la sua piattaforma pubblicitaria. L’autorità di controllo della pubblicità del Regno Unito ritiene l’inserzionista responsabile degli annunci composti da strumenti automatici. Nessuno può leggere ogni risposta prima che venga inviata. Legga un campione ogni settimana, metta alla prova il chatbot dopo ogni cambio di regole o di prezzi, e dia ai clienti un modo per parlare con una persona.
8. Indirizzi l’impegno di controllo dove sta il rischio. Controlli con più attenzione i risultati ad alto rischio, come ha fatto la sperimentazione sullo screening. Non distribuisca lo stesso controllo leggero su tutto.
9. Preveda il tempo. Veda preveda un budget per il lavoro che l’IA crea.

Che cosa misurare

• La quota di lavori in uscita fatti con l’aiuto dell’IA che hanno un controllo registrato.
• Gli errori intercettati dal controllo, al mese. Conservi gli esempi per la formazione.
• Gli errori scoperti dopo che il lavoro era uscito, e chi li ha scoperti.
• Per i chatbot: la quota di risposte del campione in linea con le regole in vigore.

Dove non funziona

• Il controllo diventa un timbro. Le persone approvano senza leggere. È un effetto dello strumento oltre che della disciplina: il controllo si indebolisce man mano che cresce la fiducia nello strumento. Controlli un campione delle approvazioni, e metta alla prova chi controlla con casi in cui sono stati inseriti errori di proposito.
• Chi controlla non sa giudicare. Una persona junior che rivede un lavoro fuori dalle sue conoscenze lascerà passare un errore scritto bene. Nella sentenza inglese, una praticante barrister ha detto che nessuno dei suoi lavori scritti veniva controllato, e il centro di assistenza legale che le aveva dato l’incarico ha detto di non aver mai controllato le citazioni dei legali. Ciascuna parte contava sull’altra.
• Un’IA che controlla un’IA. In un esperimento della stessa Anthropic, un’IA gestiva un piccolo negozio in un ufficio e una seconda IA faceva da sua responsabile. La responsabile aveva gli stessi punti ciechi dell’IA del negozio e approvava le richieste indulgenti dei clienti circa otto volte più spesso di quanto le rifiutasse. Obbligare l’IA del negozio a verificare prezzi e tempi di consegna ha aiutato. Un controllo funziona solo se sbaglia in modi diversi da ciò che controlla.
• Controllare tutto. Se ogni nota interna richiede un’approvazione, il guadagno dell’IA sparisce e le persone aggirano la regola. Riservi il passo a ciò che esce e a ciò che ha peso.
• Fidarsi di più del proprio strumento. Le otto sentenze inventate citate sopra venivano da un sistema costruito dallo studio stesso.
• Indicazioni senza un passo. Il tribunale inglese ha detto che dare indicazioni “on its own is insufficient” [“da solo non basta”].

Per dimensione dell’azienda

• Micro e piccole imprese: il titolare o un collega esperto legge tutto ciò che va a un cliente. Un tribunale ha applicato lo stesso dovere a uno studio di dieci persone.
• Medie imprese: una persona che controlla, con nome e cognome, per ogni tipo di risultato, e una riga nella lista di controllo per l’approvazione.
• Medio-grandi e grandi imprese: il controllo è integrato nei sistemi di gestione dei documenti e di pubblicazione, e un campione delle approvazioni viene verificato. Per i chatbot e le decisioni automatiche, una squadra è responsabile dei test e del monitoraggio.

Casi aziendali

Aziende che l’hanno fatto

• Ashurst I partecipanti hanno segnalato contenuti inventati frequenti in tutti gli strumenti. Lo studio ha concluso che il lavoro dell’IA va “thoroughly and properly reviewed by appropriate experts” [“rivisto a fondo e in modo corretto da esperti adeguati”]. Risultato dichiarato dall’azienda
• EIST I preventivi vengono ancora controllati e corretti dal titolare prima di essere approvati. Risultato dichiarato dall’azienda
• Garfield.Law Solicitor abilitati, indicati per nome, restano responsabili del lavoro dello studio, e lo studio ha un sistema di monitoraggio, con un controllo più stretto delle pratiche nella fase di avvio. Risultato dichiarato dall’azienda
• Gilberts Chartered Accountants I risultati dell’IA sono trattati come una prima bozza e ricevono “the same scrutiny as you would to a junior team member’s work” [“lo stesso esame che si riserverebbe al lavoro di un collaboratore junior”]. Risultato dichiarato dall’azienda
• Herges Stahl- und Blechbau Con ogni previsione lo strumento mostra i dieci lavori passati più simili e i loro tempi misurati, così che il personale possa giudicare la stima e modificarla. Risultato misurato
• Hitachi Energy Il modello indicava solo da dove venivano le perdite. Gli ingegneri di processo dello stabilimento hanno proposto le possibili azioni, hanno verificato che fossero realizzabili e hanno individuato le cause fisiche. Risultato misurato
• Milkforbubs Il gruppo di lavoro ha continuato a “closely monitoring its responses and swiftly correcting any inaccuracies” [“controllare da vicino le sue risposte e correggere in fretta ogni imprecisione”]. Risultato dichiarato dall’azienda
• PSG Global Solutions L’IA conduceva solo il colloquio. Con le parole del documento, “all hiring decisions are made by human recruiters” [“tutte le decisioni di assunzione sono prese da selezionatori umani”]. Risultato misurato
• Rue La La Lo strumento è stato seguito da vicino prima di funzionare da solo. Ancora oggi si limita a suggerire prezzi ai responsabili degli acquisti del negozio, entro limiti fissati dal negozio. Risultato misurato
• SAM Il consulente approva le lettere importanti, e può correggere il modo in cui l’IA ha classificato un documento o modificare un sollecito. Risultato dichiarato dall’azienda
• Siemens Un operaio prendeva la decisione finale su ogni circuito. Gli operai che vedevano il ragionamento dell’IA hanno corretto il 96,9% delle sue previsioni sbagliate. Risultato misurato

Cosa è successo senza questa pratica

• Air Canada Il tribunale ha stabilito che la compagnia “did not take reasonable care to ensure its chatbot was accurate” [“non ha usato una ragionevole diligenza per garantire che il suo chatbot fosse accurato”]. È andata male
• Deloitte (Australia) Citazioni sbagliate e un riassunto sbagliato di una causa sono arrivati al cliente nel rapporto finale. È andata male
• Department of Families, Fairness and Housing (Victoria) La relazione è arrivata in tribunale con un errore grave. Descriveva una bambola usata a scopi sessuali come un giocattolo “age-appropriate” [“adatto all’età”]. È andata male
• DoNotPay L’azienda non aveva assunto né incaricato alcun avvocato per controllare la qualità e la correttezza delle sue funzioni legali. È andata male
• Levidow, Levidow & Oberman P.C. Nessuno ha verificato le sei sentenze prima che venissero depositate. Il tribunale ha detto che gli avvocati mantengono “a gatekeeping role” [“un ruolo di filtro”] su ciò che depositano. È andata male
• Morgan & Morgan Due avvocati hanno firmato l’atto senza leggerlo. Il tribunale ha detto che i segni delle sentenze false erano “noticeable on the Motions’ face” [“visibili a prima vista nelle istanze stesse”]. È andata male
• Primus Solicitors L’avvocato si è affidato alle ricerche del suo cliente e non le ha controllate. Il tribunale l’ha definita “a lamentable failure” [“una deplorevole mancanza”] rispetto a un obbligo di base. È andata male
• Rite Aid I dipendenti seguivano, perquisivano e accusavano i clienti sulla base di un avviso. La catena non teneva traccia dei falsi riconoscimenti né di ciò che il personale faceva in seguito. È andata male

Aziende che l’hanno adottata in seguito

• Butler Snow Lo studio ha detto al tribunale che avrebbe introdotto un controllo prima di ogni atto depositato, per confermare che ogni citazione esiste, è corretta ed è pertinente. È andata male

Fonti

1. Dell’Acqua, McFowland, Mollick, Lifshitz-Assaf, Kellogg, Rajendran, Krayer, Candelon and Lakhani (2026). Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality. Organization Science, 37(2), 403–423. Cosa ha fatto e cosa ha trovato questo studio
2. Hernström, Josefsson, Sartor, Schmidt, Larsson, Hofvind, Andersson, Rosso, Hagberg and Lång (2025). Screening performance and characteristics of breast cancer detected in the Mammography Screening with Artificial Intelligence trial (MASAI): a randomised, controlled, parallel-group, non-inferiority, single-blinded, screening accuracy study. The Lancet Digital Health, 7(3), e175–e183. Cosa ha fatto e cosa ha trovato questo studio
3. Vaccaro, Almaatouq and Malone (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8(12), 2293–2303. Limita o contraddice questa pratica. Cosa ha fatto e cosa ha trovato questo studio
4. Lee, Sarkar, Tankelevitch, Drosos, Rintel, Banks and Wilson (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems, Article 1121. Limita o contraddice questa pratica. Cosa ha fatto e cosa ha trovato questo studio
5. Budzyń, Romańczyk, Kitala and colleagues (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology & Hepatology, 10(10), 896–903. Limita o contraddice questa pratica. Cosa ha fatto e cosa ha trovato questo studio
6. R (Ayinde) v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin). High Court of England and Wales, 6 June 2025. judiciary.uk
7. European Union. AI Act, Regulation (EU) 2024/1689, Article 26 (obligations of deployers of high-risk AI systems). Text on the European Commission’s AI Act Service Desk. ai-act-service-desk.ec.europa.eu
8. Charlotin, D. AI Hallucination Cases database (counts as of 16 October 2026). damiencharlotin.com
9. Anthropic with Andon Labs (18 December 2025). Project Vend: Phase Two. A vendor's own experiment. anthropic.com
10. Advertising Standards Authority (11 June 2026). AI and Deepfakes: Four Things Advertisers Need to Know Before They Hit 'Run'. asa.org.uk
11. Insurance Business (16 September 2026). ISO's generative AI exclusion is already on thousands of CGL policies. Trade press. insurancebusinessmag.com

Pratiche collegate

• Preveda un budget per il lavoro che l’IA crea L’IA toglie un po’ di lavoro e ne aggiunge altro: controllare i risultati, tenere registri, gestire le eccezioni e occuparsi degli strumenti. Conti quel lavoro e gli dia un responsabile prima di contare il risparmio. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa Riprogettazione dei processi · Adottare
• Per ogni tipo di attività, verifichi se una persona con l’IA fa meglio di ciascuna delle due da sola Non dia per scontato che aggiungere una persona all’IA, o l’IA a una persona, dia il risultato migliore. Lo verifichi per ogni tipo di attività prima di stabilire il processo. Subito dopo · Impegno: medio (settimane, poche persone) Prove: Solide Dipende dal contesto Riprogettazione dei processi · Riprogettare
• Verifichi i consigli dell’IA su denaro, tasse e leggi prima di metterli in pratica Quando usa uno strumento di IA come consulente, verifichi i suoi consigli su denaro, tasse e leggi con una fonte affidabile o con un professionista prima di agire. In una piccola impresa, nessun altro si accorgerà di una risposta sbagliata. Subito dopo · Impegno: basso (giorni, una persona) Prove: Pratica diffusa Regole e rischi · Adottare
• Scriva un regolamento di una pagina sull’uso dell’IA che il personale legga davvero Metta le regole sull’IA in una pagina: quali strumenti sono consentiti, cosa non si deve mai inserire, chi controlla il risultato e a chi chiedere. Poi porti la regola più importante dentro il lavoro stesso, perché una pagina da sola viene ignorata. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa Regole e rischi · Adottare
• Quando l’IA sbaglia, corregga in fretta e apertamente Decida ora che cosa succede quando un errore dell’IA arriva all’esterno: chi viene avvisato, chi ritira o corregge il lavoro e chi verifica fin dove arriva il problema. Nei casi documentati, le aziende che hanno ammesso presto l’errore sono state trattate molto meglio di quelle che lo hanno difeso. Subito dopo · Impegno: basso (giorni, una persona) Prove: Preliminari Regole e rischi · Mantenere