Morgan & Morgan: otto sentenze inventate dallo strumento di IA dello studio, firmate da tre avvocati

In sintesi

Azienda

Morgan & MorganStudio legale

Dimensione

Grandi imprese (1.000+ dipendenti) Il sito dello studio dice che ha più di 1.100 avvocati.

Settore

Servizi professionali

Dove e quando

Stati Uniti (tribunale federale del Wyoming). Gennaio – febbraio 2025.

Chi ha prodotto le cifre

Atti di un tribunaleI fatti e le citazioni vengono dall’ordinanza sulle sanzioni pubblicata dal tribunale. Il numero di avvocati è dichiarato dallo studio.

Che cosa è successo

Lo studio assisteva una famiglia che aveva fatto causa a un rivenditore e a un produttore. Il 22 gennaio 2025 i suoi avvocati hanno depositato una serie di istanze prima del processo. Un avvocato aveva scritto la bozza. Poi l’ha caricata nello strumento di IA interno dello studio e gli ha chiesto di “add more case law” [“aggiungere altra giurisprudenza”].

La controparte non è riuscita a trovare le sentenze e lo ha segnalato. Il tribunale ha chiesto agli avvocati di dare spiegazioni.

I numeri

• Nove sentenze citate. Otto non esistevano.
• Tre firme sull’atto. Solo uno dei tre avvocati ci aveva lavorato.
• $3.000 di multa per l’avvocato che lo aveva scritto. È stato anche tolto dalla causa.
• $1.000 di multa ciascuno per i due avvocati che avevano firmato senza leggere.
• Nessuna sanzione per lo studio.

Che cosa ha accertato il tribunale

• Le sentenze le ha inventate uno strumento costruito dallo studio. Non era un chatbot pubblico. Era il sistema dello studio.
• Firmare significa controllare. Gli altri due avvocati hanno detto di non aver letto l’atto. Il tribunale ha detto che questo non cambiava nulla. Una firma conferma che chi firma ha letto il documento e verificato il diritto citato. Questo dovere non si può passare a qualcun altro.
• Gli errori erano visibili. Il tribunale ha notato che le sentenze false non avevano il formato di citazione abituale. Chi avesse guardato se ne sarebbe accorto.
• La trasparenza ha ridotto la sanzione. Gli avvocati hanno ritirato l’atto, sono stati “honest and forthcoming about the use of AI” [“onesti e trasparenti sull’uso dell’IA”], hanno pagato le spese legali della controparte e hanno mostrato che cosa avevano cambiato. Il tribunale ha indicato la “honesty and candor” [“onestà e franchezza”] dell’autore della bozza come motivo per una sanzione più lieve.

Che cosa aveva fatto lo studio e che cosa ha cambiato

Lo studio ha dimostrato al tribunale di aver formato i dipendenti a non usare lo strumento in questo modo. Dopo l’ordinanza ha aggiunto un passaggio dentro lo strumento. Prima di usarlo, una persona deve accettare un avviso secondo cui “users must independently verify” [“gli utenti devono verificare in modo autonomo”] tutto ciò che l’IA produce.

Il tribunale ha detto che probabilmente avrebbe ordinato misure simili di sua iniziativa, quindi non ha sanzionato lo studio.

Che cosa mostra il caso

• Anche il suo strumento di IA può inventare. Costruire uno strumento in casa non toglie il bisogno di controllarne i risultati.
• La formazione non ha fermato una persona. Una regola che vive in una sessione di formazione si può dimenticare. Lo studio ha spostato la regola dentro lo strumento, nel momento dell’uso.
• Una seconda firma non è un controllo. Due persone hanno approvato un documento che nessuna delle due aveva letto.

Cosa dice sulle pratiche

Pratiche che l’azienda ha applicato

• Formi il personale sugli strumenti che ha davvero scelto Lo studio ha dimostrato al tribunale di aver formato i dipendenti a non usare lo strumento di IA nel modo in cui lo ha usato questo avvocato. Prima di tutto · Impegno: medio (settimane, poche persone) Prove: Preliminari
• Quando l’IA sbaglia, corregga in fretta e apertamente Gli avvocati hanno ritirato l’atto, hanno detto apertamente che era stata usata l’IA e hanno pagato le spese legali della controparte. Il tribunale ne ha tenuto conto per una sanzione più lieve. Subito dopo · Impegno: basso (giorni, una persona) Prove: Preliminari

Pratiche che sono mancate

• Faccia controllare a una persona tutto ciò che va a un cliente o ha valore legale Due avvocati hanno firmato l’atto senza leggerlo. Il tribunale ha detto che i segni delle sentenze false erano “noticeable on the Motions’ face” [“visibili a prima vista nelle istanze stesse”]. Prima di tutto · Impegno: medio (settimane, poche persone) Prove: Preliminari

Cosa ha cambiato l’azienda in seguito

• Scriva un regolamento di una pagina sull’uso dell’IA che il personale legga davvero Dopo l’ordinanza lo studio ha aggiunto un avviso che il personale deve accettare prima di usare lo strumento: “users must independently verify” [“gli utenti devono verificare in modo autonomo”] ciò che produce. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa

Fonti

1. Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
2. Morgan & Morgan. About us (the firm’s own description of its size). forthepeople.com