Che cosa mancava più spesso
Ogni caso indica le pratiche che avrebbero evitato il fallimento o lo avrebbero ridotto. Queste sono quelle mancate più spesso nei 17 casi.
- Faccia controllare a una persona tutto ciò che va a un cliente o ha valore legale: mancava in 8 casi su 17
- Dichiari solo ciò che la sua IA ha dimostrato di saper fare nei test: mancava in 6 casi su 17
- Chieda prove ai fornitori di IA prima di acquistare, e faccia un test sul suo materiale: mancava in 5 casi su 17
- Conosca le regole che valgono già per il suo uso dell’IA: mancava in 5 casi su 17
- Preveda un budget per il lavoro che l’IA crea: mancava in 4 casi su 17
- Quando l’IA sbaglia, corregga in fretta e apertamente: mancava in 3 casi su 17
Citazioni inventate che nessuno ha controllato
Avvocati e una società di consulenza hanno consegnato lavori che citavano sentenze o fonti errate o inesistenti. Le pagine dei casi mostrano chi ha firmato il lavoro e quanto gli è costato.
- Levidow, Levidow & Oberman: multato dopo aver depositato atti con cause inventate da ChatGPT Un avvocato ha usato ChatGPT per una ricerca giuridica e ha depositato sei sentenze che non esistevano. Il tribunale ha multato lo studio e due dei suoi avvocati. Il giudice ha detto che il problema non era aver usato l’IA. Era non aver controllato.
- Morgan & Morgan: otto sentenze inventate dallo strumento di IA dello studio, firmate da tre avvocati Un avvocato ha chiesto allo strumento di IA del proprio studio di aggiungere giurisprudenza a un atto giudiziario. Otto delle nove sentenze citate non esistevano. Altri due avvocati hanno firmato senza leggere. Lo studio aveva formato il personale, e dopo ha aggiunto un avviso dentro lo strumento.
- Butler Snow: uno studio con un regolamento sull’IA, e un socio che non l’ha rispettato Il regolamento dello studio chiedeva un’autorizzazione scritta prima di usare ChatGPT per la ricerca giuridica. Un socio l’ha usato senza autorizzazione e ha depositato cinque citazioni che ChatGPT aveva inventato. Il tribunale ha estromesso dalla causa tre avvocati. Lo studio ha pagato una verifica di 2.400 citazioni.
- Primus Solicitors: 18 citazioni di sentenze inesistenti, prese dalle ricerche fatte da un cliente con l’IA Un avvocato di un piccolo studio legale ha depositato una dichiarazione con 45 citazioni di sentenze. Diciotto non esistevano. Il suo cliente aveva fatto le ricerche con strumenti di IA pubblici, e nessuno nello studio le ha controllate. Il tribunale lo ha segnalato alla sua autorità di controllo.
- Deloitte Australia: un rapporto per il governo ripubblicato per correggere citazioni sbagliate Un rapporto di Deloitte per un ministero australiano è stato ripubblicato per correggere citazioni e il riassunto di una causa. La versione corretta ha dichiarato l’uso di uno strumento di IA generativa. Il rapporto non dice che gli errori siano stati causati dall’IA.
Promesse sull’IA contestate dalle autorità
Queste aziende hanno venduto o pubblicizzato un’IA che, secondo un’autorità statunitense, non faceva ciò che dichiaravano. Le pagine dei casi riportano che cosa ha accertato l’autorità e che cosa l’azienda ha pagato o accettato.
- DoNotPay: un “avvocato robot” mai messo alla prova contro un avvocato DoNotPay diceva ai clienti che la sua IA poteva fare il lavoro di un avvocato. L’autorità statunitense per la tutela dei consumatori ha detto che l’azienda non aveva mai verificato se fosse vero e non impiegava avvocati per controllare. Ha pagato $193.000 e ha dovuto informare gli ex abbonati dei limiti del servizio.
- accessiBe: un plug-in di IA venduto come capace di rendere accessibile qualsiasi sito, e un ordine da $1 milione accessiBe vendeva ai proprietari di siti web un plug-in di IA e diceva che avrebbe reso qualsiasi sito conforme alle norme di accessibilità. L’autorità statunitense per la tutela dei consumatori ha detto che non era così, e che le recensioni che lo lodavano erano a pagamento. L’azienda ha pagato $1 milione.
- Workado: un rilevatore di testi scritti dall’IA venduto come preciso al 98%, che nei test è arrivato al 53% Workado vendeva uno strumento che dichiara di distinguere i testi scritti dall’IA da quelli scritti da persone, e lo pubblicizzava come preciso al 98%. L’autorità statunitense per la tutela dei consumatori ha detto che test indipendenti lo davano al 53% sui testi generici. Gli acquirenti avevano solo la parola del fornitore.
- Delphia e Global Predictions: multate per aver detto di usare un’IA che non avevano Due consulenti finanziari pubblicizzavano un’IA che non avevano. Uno diceva che la sua IA imparava dai dati dei clienti. L’altro si presentava come il primo consulente finanziario IA regolamentato. L’autorità statunitense dei mercati finanziari li ha multati per $225.000 e $175.000.
- Presto Automation: l’autorità statunitense ha accertato che la maggior parte degli ordini drive-through “con l’IA” richiedeva una persona Presto vendeva ai ristoranti un’IA vocale per gli ordini drive-through e diceva agli investitori che eliminava la presa degli ordini da parte di persone. L’autorità statunitense di vigilanza sulla borsa ha accertato che persone che lavoravano a distanza, soprattutto nelle Filippine e in India, inserivano la grande maggioranza degli ordini. Presto ha chiuso con un accordo senza ammettere né negare quanto accertato.
- Air AI: per l’autorità statunitense, a piccole aziende è stata venduta “IA che sostituisce il personale” con perdite fino a $250.000 Air AI vendeva a titolari di piccole imprese una “conversational AI” [“IA conversazionale”] che, a suo dire, poteva sostituire il personale del servizio clienti, con la promessa di recuperare quanto speso. L’autorità statunitense per la tutela dei consumatori sostiene che gli acquirenti abbiano perso fino a $250.000 ciascuno e che i rimborsi promessi siano stati pagati di rado. Con un accordo proposto, ai titolari è vietato promuovere opportunità di business.
IA a contatto con clienti e acquirenti
Un chatbot ha dato a un cliente un’indicazione sbagliata. Il riconoscimento facciale nei negozi ha scansionato i clienti e ne ha segnalati alcuni per errore. Un tribunale o un’autorità si è pronunciato contro ciascuna azienda, almeno in parte.
- Air Canada: ritenuta responsabile di ciò che il chatbot del suo sito aveva detto a un cliente Il chatbot del sito di Air Canada ha dato a un cliente informazioni sbagliate sui rimborsi. Un tribunale canadese ha condannato la compagnia aerea a pagare. Ha respinto l’argomento secondo cui l’azienda non era responsabile del suo chatbot.
- Rite Aid: cinque anni di divieto sul riconoscimento facciale dopo averlo comprato senza testarlo Rite Aid usava il riconoscimento facciale per individuare presunti taccheggiatori. L’autorità statunitense per la tutela dei consumatori ha detto che la catena non ha mai chiesto ai fornitori quanto fosse preciso il sistema, non lo ha mai testato e non ha formato il personale. Alcuni clienti sono stati accusati ingiustamente. Alla catena è stato vietato di usare la tecnologia per cinque anni.
- Bunnings: riconoscimento facciale su ogni cliente in 63 negozi, e che cosa hanno deciso l’autorità e il tribunale Bunnings ha scansionato il volto di ogni persona entrata in 63 dei suoi negozi per individuare chi aveva segnalato per reati o violenza. L’autorità per la privacy ha stabilito che aveva violato la legge. In seguito un tribunale ha ritenuto che la catena potesse usare la tecnologia contro la criminalità grave nei negozi, ma ha confermato che non aveva informato bene i clienti e che avrebbe dovuto fare prima una valutazione dei rischi formale e documentata.
Dati personali inseriti in un chatbot pubblico
Dipendenti di due enti pubblici australiani hanno inserito in ChatGPT dati personali di cittadini. Un ente non aveva approvato lo strumento. L’altro non aveva alcuna regola in merito. In seguito il primo ha bloccato questi caricamenti e un’autorità ha ordinato al secondo di bloccare gli strumenti.
- NSW Reconstruction Authority: un lavoratore temporaneo ha caricato su ChatGPT i dati di 2.031 persone Un dipendente temporaneo ha caricato su ChatGPT, che l’ente non aveva approvato, un foglio di calcolo con i richiedenti di aiuti dopo le alluvioni. Conteneva dati personali e sanitari di 2.031 persone. L’ente ha poi scritto indicazioni sull’IA, rafforzato la formazione e bloccato questi caricamenti.
- Servizio di tutela dei minori di Victoria: un’operatrice ha inserito i dati di un caso in ChatGPT, e l’autorità di controllo ha ordinato di bloccare gli strumenti Un’operatrice della tutela dei minori ha inserito in ChatGPT i dati personali di una famiglia per scrivere la bozza di una relazione per il tribunale. La relazione conteneva errori. Il garante della privacy ha accertato che il dipartimento non aveva regole, formazione né limiti tecnici per questi strumenti, e gli ha ordinato di bloccarli.
Una previsione su cui l’azienda ha scommesso
Zillow comprava case a prezzi fissati in parte dalle proprie previsioni. Quando le previsioni hanno sbagliato, ha chiuso l’attività. Zillow ha indicato anche problemi di manodopera e di forniture.
Per i casi con risultati misurati o comunicati dall’azienda, vedi tutti i casi aziendali. Le etichette e chi ha prodotto ogni cifra sono spiegati in come il sito valuta le prove.