Auf einen Blick
- Unternehmen
- DoNotPayOnline-Abodienst für Rechtsdokumente
- Größe
- In der Quelle nicht angegeben
- Branche
- Freiberufliche Dienstleistungen Der Dienst bot Rechtsdokumente und Rechtsrat an, also Arbeit, die Kanzleien erledigen.
- Wo und wann
- USA. Abonnenten 2021–2023, endgültige Anordnung im Februar 2025.
- Wer die Zahlen erhoben hat
- Amtliche UnterlagenAlles auf dieser Seite stammt aus zwei Mitteilungen der US Federal Trade Commission. Es sind die Vorwürfe der Behörde, beigelegt durch eine Einigung.
Was passiert ist
DoNotPay verkaufte ein Abo für einen KI-Chatbot bei Rechtsproblemen. Es nannte den Dienst „the world’s first robot lawyer“ [„den ersten Roboter-Anwalt der Welt“]. Es sagte Kunden, sie könnten „sue for assault without a lawyer“ [„ohne Anwalt wegen Körperverletzung klagen“] und „generate perfectly valid legal documents in no time“ [„im Handumdrehen vollkommen gültige Rechtsdokumente erstellen“].
Was die Behörde sagte
- Kein Test. Die Firma prüfte nie, ob die Ergebnisse des Chatbots so gut waren wie die eines menschlichen Anwalts.
- Keine Anwälte. Sie hatte keinen Anwalt eingestellt oder beauftragt, um Qualität und Richtigkeit der juristischen Funktionen zu prüfen.
- Eine Funktion, die nicht funktionierte. Eine Funktion sollte die Website eines kleinen Unternehmens allein anhand einer E-Mail-Adresse auf rechtliche Probleme prüfen. Die Behörde sagte, sie sei nicht wirksam gewesen.
Das Ergebnis
- $193.000 gezahlt.
- Mitteilung an Abonnenten. Die Firma musste alle, die zwischen 2021 und 2023 ein Abo abgeschlossen hatten, über die Grenzen ihrer juristischen Funktionen informieren.
- Keine unbelegten Aussagen. Sie darf nicht sagen, ihr Dienst leiste so viel wie ein echter Anwalt, wenn sie dafür keine Belege hat.
Die Anordnung wurde im Februar 2025 endgültig.
Was der Fall zeigt
- „So gut wie ein Profi“ ist eine Aussage, die sich prüfen lässt. Niemand in der Firma hatte sie geprüft.
- Juristische Ergebnisse brauchen eine fachkundige Prüfung. Die Firma verkaufte Rechtsdokumente, ohne dass ein Anwalt am Ablauf beteiligt war.
- Käufer sollten nach dem Test fragen. Ein kleines Unternehmen, das sich für ein Rechtsdokument auf diesen Dienst verließ, hatte nur die Werbung als Grundlage.
Was das über die Praktiken sagt
Praktiken, die fehlten
- Versprechen Sie nur, was Ihre KI nachweislich kann Die Firma prüfte nie, ob die Ergebnisse ihres Chatbots der Arbeit eines menschlichen Anwalts entsprachen, sagte die Behörde. Als Nächstes · Aufwand: gering (Tage, eine Person)
- Lassen Sie einen Menschen alles prüfen, was an Kunden geht oder rechtliches Gewicht hat Die Firma hatte keinen Anwalt eingestellt oder beauftragt, um Qualität und Richtigkeit ihrer juristischen Funktionen zu prüfen. Zuerst · Aufwand: mittel (Wochen, einige Personen)
- Verlangen Sie vor dem Kauf Belege von KI-Anbietern, und testen Sie mit Ihrem eigenen Material Kunden wurden „perfectly valid legal documents“ [„vollkommen gültige Rechtsdokumente“] versprochen, ohne dass ein Test dahinterstand. Zuerst · Aufwand: mittel (Wochen, einige Personen)
Quellen
- US Federal Trade Commission (25 September 2024). FTC announces crackdown on deceptive AI claims and schemes. Press release. ftc.gov
- US Federal Trade Commission (11 February 2025). FTC finalizes order with DoNotPay that prohibits deceptive “AI lawyer” claims, imposes monetary relief, and requires notice to past subscribers. Press release. ftc.gov