Firmenfall

Primus Solicitors: 18 Urteilszitate, die es nicht gab, aus der KI-Recherche eines Mandanten

Ein Anwalt einer kleinen Kanzlei reichte eine Erklärung mit 45 zitierten Urteilen ein. Achtzehn dieser Urteile gab es nicht. Sein Mandant hatte die Recherche mit öffentlichen KI-Werkzeugen erstellt, und niemand in der Kanzlei prüfte sie. Das Gericht meldete den Anwalt seiner Aufsichtsbehörde.

Ergebnis Ging schief

Bei einer Arbeit mit KI ist etwas schiefgegangen, und es gibt dazu öffentliche Unterlagen.

Auf einen Blick

Unternehmen
Primus SolicitorsAnwaltskanzlei
Größe
Kleinst- und Kleinunternehmen (1–49 Beschäftigte) Primus Solicitors Limited meldete in seinem Jahresabschluss für das Jahr bis zum 30. April 2025 durchschnittlich 10 Beschäftigte.
Branche
Freiberufliche Dienstleistungen
Wo und wann
Vereinigtes Königreich (England und Wales). April – Juni 2025.
Wer die Zahlen erhoben hat
GerichtsaktenDie Fakten und Zitate stammen aus dem veröffentlichten Urteil des High Court. Die Zahl der Beschäftigten stammt aus dem Jahresabschluss der Kanzlei, hinterlegt bei Companies House.

Was passiert ist

Die Kanzlei vertrat einen Mandanten, der von einer Bank £89,4 Millionen forderte. Im Frühjahr 2025 reichten der Mandant und sein Anwalt jeweils eine Zeugenerklärung zur Unterstützung eines Antrags ein. Beide Erklärungen zitierten Rechtsprechung.

Eine Richterin bemerkte, dass viele der Urteile falsch aussahen, und ließ sie prüfen. Dann gab sie die Sache an ein Gremium aus zwei hochrangigen Richtern ab. Diese verhandelten sie zusammen mit einem zweiten Fall derselben Art.

Die Zahlen

  • 45 Urteilszitate wurden dem Gericht vorgelegt.
  • 18 dieser Urteile gab es nicht. Viele der übrigen enthielten die ihnen zugeschriebenen Zitate nicht oder stützten die Aussage nicht, für die sie zitiert wurden.
  • Eine der erfundenen Entscheidungen wurde ausgerechnet der Richterin zugeschrieben, die den Antrag verhandelte.
  • 10 Beschäftigte hatte die Kanzlei im Durchschnitt im Jahr bis April 2025, im Jahr davor 4.

Was das Gericht feststellte

  • Der Mandant recherchierte mit KI. Er sagte dem Gericht, die Zitate seien „generated using publicly available artificial intelligence tools, legal search engines and online sources“ [„mit öffentlich verfügbaren KI-Werkzeugen, juristischen Suchmaschinen und Onlinequellen erstellt“] worden. Er sagte, er habe ihnen voll vertraut.
  • Der Anwalt gab sie ungeprüft weiter. Er sagte, er habe sich auf die Recherche seines Mandanten verlassen, „without independently verifying the authorities“ [„ohne die Fundstellen selbst zu überprüfen“]. Das Gericht nannte das „a lamentable failure to comply with the basic requirement to check the accuracy of material that is put before the court“ [„ein beklagenswertes Versäumnis, die grundlegende Pflicht zu erfüllen, die Richtigkeit des dem Gericht vorgelegten Materials zu prüfen“].
  • Es war keine Absicht. Das Gericht akzeptierte, dass der Anwalt nicht wusste, dass die Zitate erfunden waren.
  • Er stand dazu. Er entschuldigte sich, meldete sich selbst bei der Solicitors Regulation Authority und zog sich von der Arbeit vor Gericht zurück. Das Gericht meldete ihn zusätzlich selbst bei der Aufsichtsbehörde und leitete kein Verfahren wegen Missachtung des Gerichts ein.

Was das Gericht über KI-Werkzeuge sagte

Die Richter schrieben, dass frei verfügbare Werkzeuge wie ChatGPT „are not capable of conducting reliable legal research“ [„nicht in der Lage sind, verlässliche juristische Recherche zu leisten“]. Ihre Antworten können überzeugt, plausibel und falsch sein.

Sie sagten auch: Wer ein solches Werkzeug für Recherche nutzt, hat die berufliche Pflicht, das Ergebnis vor der Verwendung an echten Quellen zu prüfen. Das gilt genauso für jemanden, der sich auf die Arbeit einer anderen Person verlässt.

Und sie wandten sich direkt an Führungskräfte. Wer eine Kanzlei leitet, muss nun „practical and effective measures“ [„praktische und wirksame Maßnahmen“] ergreifen, damit alle diese Pflichten verstehen. Leitlinien zu veröffentlichen, sagte das Gericht, reiche allein nicht aus.

Der zweite Fall im selben Urteil

Im anderen Fall reichten eine Rechtsberatungsstelle und eine Barrister Schriftsätze ein, die fünf nicht existierende Urteile zitierten. Ein unteres Gericht hatte beiden auferlegt, je £2.000 an unnötig verursachten Kosten zu zahlen. Die Barrister bestritt, KI genutzt zu haben, und das Gericht entschied nicht, woher die erfundenen Urteile stammten. Als die Gegenseite zuerst auf die Urteile hinwies, nannte die Rechtsberatungsstelle sie in ihrer Antwort „cosmetic errors“ [„kosmetische Fehler“].

Das Urteil zeigt auch, wie die Prüfung verloren ging. Die Barrister war eine Pupil, also noch in der Ausbildung. Sie sagte dem Gericht, „none of her written work was checked“ [„keine ihrer schriftlichen Arbeiten wurde geprüft“], und zwar in einer arbeitsreichen Phase ihrer Ausbildung. Die Rechtsberatungsstelle ist eine gemeinnützige Organisation mit „minimal public funding“ [„minimaler öffentlicher Finanzierung“] und einem „very significant volume of cases“ [„sehr großen Fallaufkommen“]. Sie sagte, es sei nie ihre Praxis gewesen, die Quellenangaben der Barrister zu prüfen. Jede Seite verließ sich auf die andere, und niemand prüfte.

Was der Fall zeigt

  • Das Risiko kann von außen kommen. Hier war es der Mandant, der KI nutzte. Die Kanzlei brauchte eine Prüfung dessen, was sie erhielt, nicht nur dessen, was sie selbst schrieb.
  • Für eine Kanzlei mit zehn Personen gilt derselbe Maßstab wie für eine große.
  • Eine Prüfung braucht eine namentlich verantwortliche Person. Im zweiten Fall verließ sich die Rechtsberatungsstelle auf die Barrister, und niemand prüfte die Arbeit der Barrister.
  • Die Prüfung ist einfach. Schlagen Sie jede Quelle in einer echten Datenbank nach, bevor sie hinausgeht.

Was das über die Praktiken sagt

Praktiken, die das Unternehmen anwandte

Praktiken, die fehlten

Quellen

  1. R (Ayinde) v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin). Judgment of 6 June 2025. High Court of England and Wales, Divisional Court. judiciary.uk
  2. Companies House. Primus Solicitors Limited (company number 10999760). Filing history, accounts for the year to 30 April 2025. find-and-update.company-information.service.gov.uk