Caso aziendale

DoNotPay: un “avvocato robot” mai messo alla prova contro un avvocato

DoNotPay diceva ai clienti che la sua IA poteva fare il lavoro di un avvocato. L’autorità statunitense per la tutela dei consumatori ha detto che l’azienda non aveva mai verificato se fosse vero e non impiegava avvocati per controllare. Ha pagato $193.000 e ha dovuto informare gli ex abbonati dei limiti del servizio.

Risultato È andata male

Qualcosa è andato storto in un lavoro in cui si usava l’IA, e ne esiste una traccia pubblica.

Nella guida Per settore

In sintesi

Azienda
DoNotPayServizio online in abbonamento per documenti legali
Dimensione
Non indicata nella fonte
Settore
Servizi professionali Il servizio offriva documenti e consulenza legale, un lavoro che fanno gli studi legali.
Dove e quando
Stati Uniti. Abbonati 2021–2023, provvedimento definitivo a febbraio 2025.
Chi ha prodotto le cifre
Atto ufficialeTutto ciò che compare in questa pagina proviene da due comunicati della US Federal Trade Commission. Sono le accuse dell’autorità di controllo, chiuse con un accordo.

Che cosa è successo

DoNotPay vendeva un abbonamento a un chatbot di IA per problemi legali. Chiamava il servizio “the world’s first robot lawyer” [“il primo avvocato robot al mondo”]. Diceva ai clienti che potevano “sue for assault without a lawyer” [“fare causa per aggressione senza un avvocato”] e “generate perfectly valid legal documents in no time” [“creare in un attimo documenti legali perfettamente validi”].

Che cosa ha detto l’autorità di controllo

  • Nessun test. L’azienda non ha mai verificato se ciò che produceva il chatbot fosse buono quanto il lavoro di un avvocato in carne e ossa.
  • Nessun avvocato. Non aveva assunto né incaricato alcun avvocato per controllare la qualità e la correttezza delle funzioni legali.
  • Una funzione che non funzionava. Una funzione diceva di controllare il sito di una piccola impresa alla ricerca di problemi legali usando solo un indirizzo email. L’autorità ha detto che non era efficace.

L’esito

  • $193.000 pagati.
  • Avviso agli abbonati. L’azienda ha dovuto informare chi si era abbonato tra il 2021 e il 2023 dei limiti delle sue funzioni legali.
  • Nessuna affermazione non dimostrata. Non può dire che il suo servizio funziona come un vero avvocato se non ha le prove.

Il provvedimento è diventato definitivo a febbraio 2025.

Che cosa mostra il caso

  • “Bravo quanto un professionista” è un’affermazione che si può verificare. Nessuno in azienda l’aveva verificata.
  • Un documento legale ha bisogno di qualcuno qualificato che lo controlli. L’azienda vendeva documenti legali senza nessun avvocato nel processo.
  • Gli acquirenti dovrebbero chiedere il test. Una piccola impresa che si affidava a questo servizio per un documento legale aveva solo la pubblicità su cui basarsi.

Cosa dice sulle pratiche

Pratiche che sono mancate

Fonti

  1. US Federal Trade Commission (25 September 2024). FTC announces crackdown on deceptive AI claims and schemes. Press release. ftc.gov
  2. US Federal Trade Commission (11 February 2025). FTC finalizes order with DoNotPay that prohibits deceptive “AI lawyer” claims, imposes monetary relief, and requires notice to past subscribers. Press release. ftc.gov