Auf einen Blick
- Unternehmen
- Levidow, Levidow & Oberman P.C.Anwaltskanzlei
- Größe
- In der Quelle nicht angegeben Die Gerichtsakten nennen einen beteiligten Partner.
- Branche
- Freiberufliche Dienstleistungen
- Wo und wann
- USA (Bundesgericht in New York). März–Juni 2023.
- Wer die Zahlen erhoben hat
- GerichtsaktenAlles auf dieser Seite stammt aus der veröffentlichten Begründung und dem Sanktionsbeschluss des Gerichts.
Was sie getan haben
Die Kanzlei vertrat einen Fluggast, der die Fluggesellschaft Avianca verklagte. Einer ihrer Anwälte brauchte Rechtsprechung von Bundesgerichten, die der Recherchedienst der Kanzlei nicht vollständig abdeckte. Er griff zu ChatGPT, das er nie zuvor genutzt hatte. Er sagte dem Gericht, er habe „falsely assumed“ [„fälschlich angenommen“], es sei „like a super search engine“ [„wie eine Super-Suchmaschine“].
ChatGPT lieferte ihm Zusammenfassungen von Gerichtsentscheidungen, die sein Argument stützten. Die Kanzlei reichte sie am 1. März 2023 ein.
Die Zahlen
- Sechs der zitierten Entscheidungen gab es nicht. ChatGPT hatte sie erfunden, mit falschen Zitaten und falschen Fundstellen.
- Rund zwölf Wochen vergingen zwischen der Einreichung und dem Moment, in dem die Anwälte dem Gericht sagten, was passiert war. Die Anwälte der Airline zweifelten die Fälle am 15. März an. Das Gericht verlangte im April Kopien. Die Anwälte reichten daraufhin ein, was sie als Kopien oder Auszüge der Entscheidungen ausgaben. Auch die waren erfunden.
- $5.000 betrug die Strafe, am 22. Juni 2023 gemeinsam gegen die Kanzlei und zwei Anwälte verhängt.
- Das Gericht verpflichtete sie außerdem, seine Begründung ihrem Mandanten zu schicken und jedem Richter, der als Verfasser einer erfundenen Entscheidung genannt war.
Was danach geschah
Die Kanzlei teilte dem Gericht mit, sie habe ihr Recherche-Abo erweitert. Außerdem organisierte sie Schulungen für ihre Anwälte zu Technik und KI-Werkzeugen. Das Gericht berücksichtigte das.
Was der Fall zeigt
- Das Gericht verbot KI nicht. Der Richter schrieb, es sei „nothing inherently improper about using a reliable artificial intelligence tool for assistance“ [„an sich nichts Unzulässiges daran, ein verlässliches KI-Werkzeug zur Unterstützung zu nutzen“].
- Die Pflicht zur Prüfung blieb bei den Anwälten. Der Richter schrieb, die bestehenden Regeln geben Anwälten „a gatekeeping role“ [„eine Wächterrolle“], damit ihre Schriftsätze korrekt sind.
- Der Nutzer wusste nicht, was das Werkzeug war. Er hielt es für eine Suchmaschine. Ein kurzer Test, was Beschäftigte über KI wissen, hätte das aufgedeckt. Eine Selbsteinschätzung nicht.
- Am Ergebnis festzuhalten machte es schlimmer. Das Gericht sagte, das Ergebnis wäre „quite different“ [„ganz anders“] ausgefallen, hätten die Anwälte das Problem bei der ersten Nachfrage zugegeben.
Was das über die Praktiken sagt
Praktiken, die fehlten
- Prüfen Sie das KI-Wissen, statt die Beschäftigten sich selbst einschätzen zu lassen Der Anwalt hatte ChatGPT nie zuvor genutzt und hielt es für „like a super search engine“ [„wie eine Super-Suchmaschine“]. Als Nächstes · Aufwand: mittel (Wochen, einige Personen)
- Planen Sie Budget für die Arbeit ein, die KI erzeugt Die erfundenen Entscheidungen wurden ungeprüft eingereicht. Das Gericht sagte, die Pflicht zur Prüfung blieb bei den Anwälten. Zuerst · Aufwand: gering (Tage, eine Person)
- Lassen Sie einen Menschen alles prüfen, was an Kunden geht oder rechtliches Gewicht hat Niemand schlug die sechs Entscheidungen vor der Einreichung nach. Das Gericht sagte, Anwälte behalten „a gatekeeping role“ [„eine Wächterrolle“] über das, was sie einreichen. Zuerst · Aufwand: mittel (Wochen, einige Personen)
- Wenn KI-Ergebnisse falsch sind, korrigieren Sie schnell und offen Die Anwälte hielten rund zwölf Wochen an den erfundenen Fällen fest. Das Gericht sagte, das Ergebnis wäre „quite different“ [„ganz anders“] ausgefallen, hätten sie das Problem sofort zugegeben. Als Nächstes · Aufwand: gering (Tage, eine Person)
Was das Unternehmen danach geändert hat
Quellen
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com