In sintesi
- Azienda
- Workado (formerly Content at Scale AI)Fornitore di software: strumenti di IA per scrivere e per rilevare testi
- Dimensione
- Non indicata nella fonte
- Settore
- Agenzie Agenzie ed editori comprano strumenti come questo per controllare se un testo è stato scritto dall’IA.
- Dove e quando
- Stati Uniti. Esposto ad aprile 2025, provvedimento definitivo ad agosto 2025.
- Chi ha prodotto le cifre
- Atto ufficialeTutto ciò che si legge in questa pagina viene da due annunci della Federal Trade Commission statunitense. Le cifre sono accuse dell’autorità di controllo, chiuse con un accordo.
Che cosa è successo
Workado vendeva un “AI Content Detector” (rilevatore di contenuti scritti dall’IA). Lo strumento doveva stabilire se un testo fosse stato scritto da una persona o dall’IA generativa. L’azienda lo pubblicizzava come preciso al 98%.
Diceva anche che il rilevatore era stato costruito usando molti tipi di testi, come articoli di blog e voci di Wikipedia, perché funzionasse per gli utenti comuni.
I numeri
- 98%: la precisione pubblicizzata dall’azienda.
- 53%: la precisione sui contenuti generici nei test indipendenti, secondo l’esposto dell’autorità di controllo.
- Un solo tipo di testi. L’autorità di controllo ha detto che il modello alla base era stato addestrato a classificare solo testi accademici.
Il responsabile dell’ufficio per la tutela dei consumatori dell’autorità ha detto che il prodotto “did no better than a coin toss” [“non faceva meglio del lancio di una moneta”].
L’esito
L’azienda ha accettato un provvedimento, diventato definitivo ad agosto 2025. Deve:
- non fare alcuna affermazione su quanto funzioni bene un prodotto di rilevamento, a meno di avere in quel momento prove competenti e affidabili;
- conservare queste prove;
- informare per email i clienti interessati del provvedimento;
- fare rapporto all’autorità di controllo dopo un anno, e poi ogni anno per altri tre anni.
Che cosa mostra il caso
- Una cifra di precisione da prima pagina può venire da un test ristretto. Lo strumento era stato messo a punto su testi accademici. Sui testi di tutti i giorni aveva ragione circa una volta su due.
- Chieda su che cosa è stata misurata la cifra. Se il materiale del test non somiglia al suo, la cifra le dice poco.
- Faccia un piccolo test suo. Cinquanta testi di cui conosce già l’origine avrebbero mostrato la differenza.
Cosa dice sulle pratiche
Pratiche che sono mancate
- Chieda prove ai fornitori di IA prima di acquistare, e faccia un test sul suo materiale La cifra di precisione del fornitore non aveva prove adeguate alle spalle. Un acquirente che avesse chiesto i risultati dei test non ne avrebbe trovato nessuno adatto al proprio tipo di testi. Prima di tutto · Impegno: medio (settimane, poche persone)
- Dichiari solo ciò che la sua IA ha dimostrato di saper fare nei test L’azienda pubblicizzava una precisione del 98%. L’autorità di controllo ha detto che test indipendenti avevano trovato il 53% sui contenuti generici. Subito dopo · Impegno: basso (giorni, una persona)