Levidow, Levidow & Oberman: multato dopo aver depositato atti con cause inventate da ChatGPT

In sintesi

Azienda

Levidow, Levidow & Oberman P.C.Studio legale

Dimensione

Non indicata nella fonte Gli atti del tribunale indicano un solo socio titolare.

Settore

Servizi professionali

Dove e quando

Stati Uniti (tribunale federale di New York). Marzo–giugno 2023.

Chi ha prodotto le cifre

Atti di un tribunaleTutto ciò che compare in questa pagina proviene dall’opinione e dall’ordinanza sulle sanzioni pubblicate dal tribunale.

Che cosa hanno fatto

Lo studio rappresentava un passeggero che faceva causa alla compagnia aerea Avianca. Uno dei suoi avvocati aveva bisogno di giurisprudenza federale che il servizio di ricerca dello studio non copriva del tutto. Si è rivolto a ChatGPT, che non aveva mai usato. Ha detto al tribunale di aver “falsely assumed” [“erroneamente creduto”] che fosse “like a super search engine” [“come un super motore di ricerca”].

ChatGPT gli ha dato riassunti di sentenze che sostenevano la sua tesi. Lo studio li ha depositati il 1° marzo 2023.

I numeri

• Sei delle sentenze citate non esistevano. Le aveva inventate ChatGPT, con citazioni testuali e riferimenti falsi.
• Circa dodici settimane sono passate tra il deposito e il momento in cui gli avvocati hanno detto al tribunale che cosa era successo. Gli avvocati della compagnia aerea hanno messo in dubbio le cause il 15 marzo. Il tribunale ne ha chiesto copia ad aprile. Gli avvocati hanno allora depositato quelle che presentavano come copie o estratti delle sentenze. Anche quelle erano false.
• $5.000 è stata la sanzione, inflitta congiuntamente allo studio e a due avvocati il 22 giugno 2023.
• Il tribunale ha anche ordinato di inviare la sua opinione al loro cliente e a ciascun giudice indicato come autore di una sentenza inventata.

Che cosa è successo dopo

Lo studio ha detto al tribunale di aver ampliato l’abbonamento al servizio di ricerca. Ha anche organizzato una formazione per i suoi avvocati sulla tecnologia e sugli strumenti di IA. Il tribunale ne ha tenuto conto.

Che cosa mostra il caso

• Il tribunale non ha vietato l’IA. Il giudice ha scritto che in sé usare l’IA non ha nulla di male: “nothing inherently improper about using a reliable artificial intelligence tool for assistance” [“nulla di intrinsecamente scorretto nell’usare come aiuto uno strumento di intelligenza artificiale affidabile”].
• L’obbligo di controllare restava agli avvocati. Il giudice ha scritto che le regole esistenti danno agli avvocati “a gatekeeping role” [“un ruolo di filtro”] per garantire che i loro atti siano corretti.
• L’utente non sapeva che cosa fosse lo strumento. Pensava che fosse un motore di ricerca. Un breve test su ciò che il personale sa dell’IA lo avrebbe scoperto. Un’autovalutazione no.
• Difendere ciò che aveva prodotto lo strumento ha peggiorato le cose. Il tribunale ha detto che l’esito sarebbe stato “quite different” [“molto diverso”] se gli avvocati avessero ammesso il problema alla prima domanda.

Cosa dice sulle pratiche

Pratiche che sono mancate

• Verifichi le conoscenze sull’IA invece di chiedere al personale di autovalutarsi L’avvocato non aveva mai usato ChatGPT e pensava che fosse “like a super search engine” [“come un super motore di ricerca”]. Subito dopo · Impegno: medio (settimane, poche persone) Prove: Moderate
• Preveda un budget per il lavoro che l’IA crea Le sentenze inventate sono state depositate senza essere controllate. Il tribunale ha detto che l’obbligo di controllare restava agli avvocati. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa
• Faccia controllare a una persona tutto ciò che va a un cliente o ha valore legale Nessuno ha verificato le sei sentenze prima che venissero depositate. Il tribunale ha detto che gli avvocati mantengono “a gatekeeping role” [“un ruolo di filtro”] su ciò che depositano. Prima di tutto · Impegno: medio (settimane, poche persone) Prove: Preliminari
• Quando l’IA sbaglia, corregga in fretta e apertamente Gli avvocati hanno difeso le cause inventate per circa dodici settimane. Il tribunale ha detto che l’esito sarebbe stato “quite different” [“molto diverso”] se avessero ammesso subito il problema. Subito dopo · Impegno: basso (giorni, una persona) Prove: Preliminari

Cosa ha cambiato l’azienda in seguito

• Formi il personale sugli strumenti che ha davvero scelto Dopo la multa, lo studio ha detto al tribunale di aver organizzato una formazione per i suoi avvocati sulla tecnologia e sugli strumenti di IA. Prima di tutto · Impegno: medio (settimane, poche persone) Prove: Preliminari

Fonti

1. Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com