Morgan & Morgan: Acht erfundene Urteile aus dem eigenen KI-Werkzeug der Kanzlei, unterschrieben von drei Anwälten

Auf einen Blick

Unternehmen

Morgan & MorganAnwaltskanzlei

Größe

Großunternehmen (1.000+ Beschäftigte) Laut Website der Kanzlei hat sie mehr als 1.100 Anwältinnen und Anwälte.

Branche

Freiberufliche Dienstleistungen

Wo und wann

Vereinigte Staaten (Bundesgericht in Wyoming). Januar – Februar 2025.

Wer die Zahlen erhoben hat

GerichtsaktenDie Fakten und Zitate stammen aus dem veröffentlichten Beschluss des Gerichts über die Sanktionen. Die Zahl der Anwälte stammt von der Kanzlei selbst.

Was passiert ist

Die Kanzlei vertrat eine Familie, die einen Händler und einen Hersteller verklagte. Am 22. Januar 2025 reichten ihre Anwälte vor dem Prozess mehrere Anträge ein. Ein Anwalt hatte den Entwurf geschrieben. Dann lud er ihn in das hauseigene KI-Werkzeug der Kanzlei hoch und bat es, „add more case law“ [„mehr Rechtsprechung hinzuzufügen“].

Die Gegenseite fand die Urteile nicht und sagte das. Das Gericht forderte die Anwälte auf, sich zu erklären.

Die Zahlen

• Neun Urteile zitiert. Acht gab es nicht.
• Drei Unterschriften auf dem Schriftsatz. Nur einer der drei Anwälte hatte daran gearbeitet.
• $3.000 Geldstrafe für den Anwalt, der ihn geschrieben hatte. Er wurde außerdem von dem Fall abgezogen.
• Je $1.000 Geldstrafe für die beiden Anwälte, die ohne zu lesen unterschrieben hatten.
• Keine Strafe für die Kanzlei.

Was das Gericht feststellte

• Ein von der Kanzlei gebautes Werkzeug erfand die Urteile. Es war kein öffentlicher Chatbot, sondern das eigene System der Kanzlei.
• Unterschreiben heißt prüfen. Die beiden anderen Anwälte sagten, sie hätten den Schriftsatz nicht gelesen. Das Gericht sagte, das ändere nichts. Eine Unterschrift bestätigt, dass die unterschreibende Person das Dokument gelesen und das zitierte Recht geprüft hat. Diese Pflicht lässt sich nicht an jemand anderen abgeben.
• Die Fehler waren sichtbar. Das Gericht stellte fest, dass die erfundenen Urteile nicht im üblichen Zitierformat standen. Wer hingesehen hätte, hätte es bemerkt.
• Offenheit milderte die Strafe. Die Anwälte zogen den Schriftsatz zurück, waren „honest and forthcoming about the use of AI“ [„ehrlich und offen über den Einsatz von KI“], zahlten die Anwaltskosten der Gegenseite und zeigten, was sie geändert hatten. Das Gericht nannte die „honesty and candor“ [„Ehrlichkeit und Aufrichtigkeit“] des Verfassers als Grund für eine mildere Strafe.

Was die Kanzlei getan hatte und was sie änderte

Die Kanzlei wies dem Gericht nach, dass sie ihre Beschäftigten geschult hatte, das Werkzeug nicht so zu nutzen. Nach dem Beschluss des Gerichts baute sie einen Schritt in das Werkzeug ein. Vor der Nutzung muss man einen Hinweis bestätigen, dass „users must independently verify“ [„Nutzer müssen selbst überprüfen“], was die KI liefert.

Das Gericht sagte, es hätte wohl selbst ähnliche Maßnahmen angeordnet. Deshalb bestrafte es die Kanzlei nicht.

Was der Fall zeigt

• Auch Ihr eigenes KI-Werkzeug kann Dinge erfinden. Ein selbst gebautes Werkzeug macht die Prüfung seiner Ergebnisse nicht überflüssig.
• Die Schulung hielt eine Person nicht auf. Eine Regel, die nur in einer Schulung vorkommt, kann in Vergessenheit geraten. Die Kanzlei verlegte die Regel in das Werkzeug, an die Stelle, an der es benutzt wird.
• Eine zweite Unterschrift ist keine Prüfung. Zwei Personen gaben ein Dokument frei, das keine von beiden gelesen hatte.

Was das über die Praktiken sagt

Praktiken, die das Unternehmen anwandte

• Schulen Sie die Beschäftigten an den Werkzeugen, die Sie tatsächlich gewählt haben Die Kanzlei wies dem Gericht nach, dass sie ihre Beschäftigten geschult hatte, das KI-Werkzeug nicht so zu nutzen, wie dieser Anwalt es tat. Zuerst · Aufwand: mittel (Wochen, einige Personen) Evidenz: Vorläufig
• Wenn KI-Ergebnisse falsch sind, korrigieren Sie schnell und offen Die Anwälte zogen den Schriftsatz zurück, legten offen, dass KI im Spiel war, und zahlten die Anwaltskosten der Gegenseite. Das Gericht wertete das als Grund für eine mildere Strafe. Als Nächstes · Aufwand: gering (Tage, eine Person) Evidenz: Vorläufig

Praktiken, die fehlten

• Lassen Sie einen Menschen alles prüfen, was an Kunden geht oder rechtliches Gewicht hat Zwei Anwälte unterschrieben den Schriftsatz, ohne ihn zu lesen. Das Gericht sagte, Anzeichen der erfundenen Urteile seien „noticeable on the Motions’ face“ [„den Anträgen schon auf den ersten Blick anzusehen“] gewesen. Zuerst · Aufwand: mittel (Wochen, einige Personen) Evidenz: Vorläufig

Was das Unternehmen danach geändert hat

• Schreiben Sie eine einseitige KI-Richtlinie, die die Beschäftigten auch lesen Nach dem Beschluss des Gerichts fügte die Kanzlei einen Hinweis ein, den Beschäftigte vor der Nutzung des Werkzeugs bestätigen müssen: „users must independently verify“ [„Nutzer müssen selbst überprüfen“], was es liefert. Zuerst · Aufwand: gering (Tage, eine Person) Evidenz: Gängige Praxis

Quellen

1. Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
2. Morgan & Morgan. About us (the firm’s own description of its size). forthepeople.com