Przypadek firmy

DoNotPay: „robot prawnik”, którego nigdy nie porównano z prawnikiem

DoNotPay mówił klientom, że jego AI wykona pracę prawnika. Amerykański regulator ochrony konsumentów stwierdził, że firma nigdy nie sprawdziła, czy to prawda, i nie zatrudniała prawników do kontroli. Zapłaciła $193 000 i musiała poinformować byłych abonentów o ograniczeniach usługi.

Wynik Coś poszło nie tak

Coś zawiodło w pracy, w której używano AI, i istnieje publiczny zapis tego zdarzenia.

W przewodniku Według branży

W skrócie

Firma
DoNotPayInternetowa usługa abonamentowa z dokumentami prawnymi
Wielkość
Źródło tego nie podaje
Branża
Usługi profesjonalne Usługa oferowała dokumenty prawne i porady, czyli pracę, którą wykonują kancelarie.
Gdzie i kiedy
Stany Zjednoczone. Abonenci w latach 2021–2023, decyzja ostateczna w lutym 2025.
Kto podał liczby
Oficjalny dokumentWszystko na tej stronie pochodzi z dwóch komunikatów US Federal Trade Commission. To zarzuty regulatora, zakończone ugodą.

Co się stało

DoNotPay sprzedawał abonament na chatbota AI do spraw prawnych. Nazywał usługę “the world’s first robot lawyer” [„pierwszym na świecie robotem prawnikiem”]. Mówił klientom, że mogą “sue for assault without a lawyer” [„pozwać za napaść bez prawnika”] i “generate perfectly valid legal documents in no time” [„błyskawicznie tworzyć całkowicie ważne dokumenty prawne”].

Co stwierdził regulator

  • Żadnego testu. Firma nigdy nie sprawdziła, czy odpowiedzi chatbota są tak dobre jak praca prawnika.
  • Żadnych prawników. Nie zatrudniła ani nie zleciła żadnemu prawnikowi sprawdzania jakości i dokładności funkcji prawnych.
  • Funkcja, która nie działała. Jedna z funkcji miała sprawdzać stronę internetową małej firmy pod kątem problemów prawnych na podstawie samego adresu e-mail. Regulator stwierdził, że była nieskuteczna.

Rozstrzygnięcie

  • $193 000 zapłacone.
  • Informacja dla abonentów. Firma musiała poinformować osoby, które wykupiły abonament w latach 2021–2023, o ograniczeniach swoich funkcji prawnych.
  • Żadnych niesprawdzonych twierdzeń. Nie może mówić, że jej usługa działa jak prawdziwy prawnik, jeśli nie ma na to dowodów.

Decyzja stała się ostateczna w lutym 2025 roku.

Co pokazuje ten przypadek

  • „Tak dobre jak specjalista” to twierdzenie, które da się sprawdzić. Nikt w firmie tego nie sprawdził.
  • Dokumenty prawne wymagają wykwalifikowanej osoby, która je sprawdzi. Firma sprzedawała dokumenty prawne bez udziału żadnego prawnika.
  • Kupujący powinni pytać o test. Mała firma, która polegała na tej usłudze przy dokumencie prawnym, miała do dyspozycji tylko reklamę.

Co ten przypadek mówi o praktykach

Praktyki, których zabrakło

Źródła

  1. US Federal Trade Commission (25 September 2024). FTC announces crackdown on deceptive AI claims and schemes. Press release. ftc.gov
  2. US Federal Trade Commission (11 February 2025). FTC finalizes order with DoNotPay that prohibits deceptive “AI lawyer” claims, imposes monetary relief, and requires notice to past subscribers. Press release. ftc.gov