De un vistazo
- Empresa
- Levidow, Levidow & Oberman P.C.Despacho de abogados
- Tamaño
- La fuente no lo indica El expediente judicial nombra a un solo socio de capital.
- Sector
- Servicios profesionales
- Dónde y cuándo
- Estados Unidos (tribunal federal de Nueva York). Marzo–junio de 2023.
- Quién produjo las cifras
- Registro de un tribunalTodo lo que aparece en esta página procede de la resolución y la orden de sanciones publicadas por el tribunal.
Qué hicieron
El despacho representaba a un pasajero que demandaba a la aerolínea Avianca. Uno de sus abogados necesitaba jurisprudencia federal que el servicio de documentación del despacho no cubría del todo. Recurrió a ChatGPT, que no había usado antes. Dijo al tribunal que había “falsely assumed” [“supuesto erróneamente”] que era “like a super search engine” [“como un supermotor de búsqueda”].
ChatGPT le dio resúmenes de resoluciones judiciales que respaldaban su argumento. El despacho las presentó el 1 de marzo de 2023.
Las cifras
- Seis de las resoluciones citadas no existían. ChatGPT las había inventado, con citas falsas y referencias falsas.
- Unas doce semanas pasaron entre la presentación y el momento en que los abogados contaron al tribunal lo ocurrido. Los abogados de la aerolínea pusieron en duda los casos el 15 de marzo. El tribunal pidió copias en abril. Los abogados presentaron entonces lo que hicieron pasar por copias o extractos de las resoluciones. También eran falsos.
- $5000 fue la sanción, impuesta conjuntamente al despacho y a dos abogados el 22 de junio de 2023.
- El tribunal también les ordenó enviar su resolución a su cliente y a cada juez citado como autor de una resolución falsa.
Qué pasó después
El despacho dijo al tribunal que había ampliado su suscripción al servicio de documentación. También organizó formación para sus abogados sobre tecnología y herramientas de IA. El tribunal lo tuvo en cuenta.
Qué muestra el caso
- El tribunal no prohibió la IA. El juez escribió que no hay nada indebido en sí en usar la IA: “nothing inherently improper about using a reliable artificial intelligence tool for assistance” [“nada intrínsecamente indebido en usar una herramienta de inteligencia artificial fiable como ayuda”].
- La obligación de comprobar seguía siendo de los abogados. El juez escribió que las normas vigentes dan a los abogados “a gatekeeping role” [“una función de control”] para asegurarse de que sus escritos son exactos.
- El usuario no sabía qué era la herramienta. Creía que era un buscador. Una prueba breve de lo que sabe el personal sobre la IA lo habría detectado. Una autocalificación no.
- Defender lo que había producido la herramienta lo empeoró. El tribunal dijo que el resultado habría sido “quite different” [“muy distinto”] si los abogados hubieran admitido el problema cuando se les preguntó por primera vez.
Qué dice sobre las prácticas
Prácticas que faltaron
- Ponga a prueba los conocimientos de IA en lugar de pedir al personal que se autoevalúe El abogado no había usado ChatGPT antes y dio por hecho que era “like a super search engine” [“como un supermotor de búsqueda”]. Hacer después · Esfuerzo: medio (semanas, unas pocas personas)
- Presupueste el trabajo que crea la IA Las resoluciones inventadas se presentaron sin comprobarlas. El tribunal dijo que la obligación de comprobar seguía siendo de los abogados. Hacer primero · Esfuerzo: bajo (días, una persona)
- Mantenga a una persona revisando todo lo que llega a un cliente o tiene peso legal Nadie buscó las seis resoluciones antes de presentarlas. El tribunal dijo que los abogados conservan “a gatekeeping role” [“una función de control”] sobre lo que presentan. Hacer primero · Esfuerzo: medio (semanas, unas pocas personas)
- Cuando la IA se equivoca, corrija rápido y de forma abierta Los abogados defendieron los casos falsos durante unas doce semanas. El tribunal dijo que el resultado habría sido “quite different” [“muy distinto”] si hubieran admitido el problema enseguida. Hacer después · Esfuerzo: bajo (días, una persona)
Lo que la empresa cambió después
Fuentes
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com