AI-first company

Regole e rischi · Adottare

Dichiari solo ciò che la sua IA ha dimostrato di saper fare nei test

Se dice ai clienti che il suo prodotto o servizio usa l’IA, o quanto bene funziona, abbia le prove prima di dirlo. Le autorità di controllo trattano “basato sull’IA” e “preciso al 98%” come affermazioni di fatto, come tutte le altre.

Autore
Ultima revisione
Correzioni
Segnala un errore
Quando Subito dopo. Quando i primi usi dell’IA sono già avviati.
Impegno Basso (giorni, una persona)
Prove Preliminari

Sei casi documentati di autorità di controllo, tutti negli Stati Uniti, finiscono allo stesso modo, con l’esito indicato. Nessuno studio confronta le aziende che verificano le proprie affermazioni con quelle che non lo fanno.

Adatta a
Settori Tutti i settori
Nella guida Cosa fallisce

Di che cosa si tratta

Controlli il suo marketing. Prima che la sua azienda dica “usiamo l’IA”, “basato sull’IA”, “preciso al 98%” o “fa il lavoro di un professionista”, faccia confermare a qualcuno due cose: che l’affermazione è vera oggi, e che l’azienda ne ha le prove.

Questo vale per qualsiasi azienda che vende un prodotto o un servizio con l’IA al suo interno, e per qualsiasi azienda che cita l’IA nel suo materiale commerciale.

Che cosa mostrano le prove

Questo consiglio si basa su sei casi portati avanti da due autorità di controllo negli Stati Uniti. Nessuno studio lo ha verificato.

  • Dire di usare l’IA quando non è vero. Due consulenti finanziari descrivevano un’IA che non avevano. Uno diceva che la sua IA attingeva ai dati dei clienti. L’altro si definiva il “first regulated AI financial advisor” [“primo consulente finanziario con IA soggetto a vigilanza”]. Sono stati multati per $225.000 e $175.000.

  • Una percentuale di precisione senza un test adatto. Un fornitore pubblicizzava il suo rilevatore di testi scritti con l’IA come preciso al 98%. L’autorità di controllo ha detto che test indipendenti avevano trovato il 53% su contenuti generici.

  • “Bravo come un professionista.” Un servizio venduto come “robot lawyer” [“avvocato robot”] non era mai stato confrontato con il lavoro di un avvocato. Ha pagato $193.000 e ha dovuto avvisare i suoi ex abbonati.

  • Una promessa di conformità. Un fornitore diceva che il suo componente aggiuntivo di IA poteva rendere qualsiasi sito web conforme alle norme sull’accessibilità. Ha pagato $1 milione. L’autorità di controllo è intervenuta anche su recensioni pagate presentate come indipendenti.

  • Un’“IA” che quasi sempre aveva bisogno di una persona. Presto Automation diceva agli investitori che la sua IA vocale eliminava il bisogno di persone per prendere gli ordini drive-through. L’autorità di controllo sui mercati finanziari ha accertato che la “vast majority” [“stragrande maggioranza”] degli ordini presi con il sistema di Presto richiedeva l’intervento di una persona. Presto ha accettato un ordine di cessazione e non ha pagato sanzioni, perché ha collaborato.

  • Un’“IA che sostituisce il personale” venduta a piccole imprese. L’autorità di controllo per la tutela dei consumatori dice che Air AI promuoveva una “conversational AI” [“IA conversazionale”] che, a suo dire, poteva sostituire il personale dell’assistenza clienti, e che alcuni acquirenti hanno perso fino a $250.000. Con un accordo proposto e annunciato nel marzo 2026, ai titolari è vietato promuovere opportunità d’affari, e una condanna di $18 milioni è in gran parte sospesa perché non possono pagare. Sono accuse; l’accordo non ammette nulla.

In tutti e sei i casi, l’autorità di controllo ha applicato regole che esistevano già: per la pubblicità, per la tutela dei consumatori o per ciò che le aziende dicono agli investitori. Il presidente dell’autorità di controllo sui mercati finanziari ha chiamato questo modo di esagerare l’IA “AI washing”.

Come si fa

  1. Raccolga ogni dichiarazione pubblica sull’IA. Sito web, brochure, presentazioni commerciali, social media, comunicati stampa, documenti di gara, documenti depositati presso le autorità.
  2. Per ciascuna, annoti le prove. Quale test, su quale materiale, quando e fatto da chi? Se la risposta è “nessuno”, tolga l’affermazione o faccia il test.
  3. Faccia corrispondere l’affermazione al test. “Preciso al 98%” è vero solo per il tipo di materiale su cui ha fatto il test. Dica quale era, oppure non dia il numero.
  4. Eviti le parole assolute. “Qualsiasi”, “sempre”, “pienamente conforme” e “sostituisce un avvocato” sono promesse su ogni caso. Basta un controesempio per renderle false.
  5. Dica che cosa fa ancora una persona. Se il personale rivede i risultati dell’IA, lo dica. L’affermazione è vera, e i clienti la apprezzano.
  6. Indichi le recensioni e i giudizi pagati. Dichiari qualsiasi pagamento o altro legame con l’autore.
  7. Conservi le prove in archivio, con la data. Uno dei provvedimenti delle autorità citati sopra chiede esattamente questo.
  8. Ricontrolli quando il prodotto cambia. Un’affermazione vera per la versione dell’anno scorso può non esserlo per quella di quest’anno.

Che cosa misurare

  • La quota di affermazioni sull’IA nel materiale attuale che hanno prove datate in archivio.
  • La data dell’ultimo controllo completo del materiale di marketing.

Dove non funziona

  • Il marketing scrive in anticipo sul prodotto. L’affermazione descrive ciò che il prodotto farà, non ciò che fa oggi. Faccia leggere ogni affermazione sull’IA a qualcuno che conosce il prodotto prima che venga pubblicata.
  • Le vecchie pagine restano online. Le dichiarazioni di uno dei consulenti erano state fatte nell’arco di quattro anni, in documenti depositati presso l’autorità, in un comunicato stampa e sul suo sito web.
  • Cifre prese in prestito. La percentuale di precisione di un fornitore viene ripetuta come se fosse sua. La verifichi prima sul suo materiale. Veda chieda prove ai fornitori di IA.

Per dimensione dell’azienda

  • Micro e piccole imprese: legga il suo sito web con questa domanda in mente: potrei mostrare a un’autorità di controllo il test dietro ogni frase sull’IA?
  • Medie imprese: una persona con nome e cognome approva ogni affermazione sull’IA prima che venga pubblicata.
  • Medio-grandi e grandi imprese: le affermazioni sull’IA passano per la stessa revisione delle affermazioni finanziarie e su prodotti, e le prove vengono conservate.

Casi aziendali

Cosa è successo senza questa pratica

Fonti

Nessuno studio pubblicato mette alla prova direttamente questa pratica, quindi la valutazione è Preliminari. La valutazione si basa sui casi aziendali qui sopra e sulle fonti qui sotto.

  1. US Federal Trade Commission (25 September 2024). FTC announces crackdown on deceptive AI claims and schemes. Press release. ftc.gov
  2. US Securities and Exchange Commission (18 March 2024). SEC charges two investment advisers with making false and misleading statements about their use of artificial intelligence. sec.gov
  3. US Securities and Exchange Commission. In the Matter of Presto Automation Inc., File No. 3-22413, Release 33-11352 (January 2025). sec.gov
  4. US Federal Trade Commission (24 March 2026). Press release on the proposed settlement with Air AI and its owners. ftc.gov