In sintesi
- Azienda
- Presto AutomationAzienda di tecnologia per la ristorazione
- Dimensione
- Medie imprese (50–249 dipendenti)
- Settore
- E-commerce e commercio al dettaglio I clienti di Presto sono ristoranti fast food, che prendono ordini dal pubblico come fanno i negozi.
- Dove e quando
- Stati Uniti. Dichiarazioni da novembre 2021 a maggio 2023, provvedimento a gennaio 2025.
- Chi ha prodotto le cifre
- Atto ufficialeTutto ciò che si legge in questa pagina viene dal provvedimento e dall’annuncio della Securities and Exchange Commission statunitense. Quanto accertato è stato stabilito con un accordo. Presto non l’ha né ammesso né negato.
Che cosa è successo
Presto vendeva Presto Voice ai ristoranti fast food. Usa il riconoscimento vocale per prendere gli ordini al drive-through. Le azioni di Presto sono state quotate al Nasdaq da settembre 2022 fino al 2024.
L’autorità ha trovato tre problemi in ciò che Presto ha detto agli investitori tra novembre 2021 e maggio 2023.
- L’IA non era sua. Fino a settembre 2022, ogni unità Presto Voice in servizio funzionava con una tecnologia vocale di proprietà di un’altra azienda e gestita da questa. Presto la chiamava la “nostra” tecnologia e non ha dichiarato in modo adeguato quanto dipendesse dall’altra azienda.
- Gli ordini li prendevano persone. In cinque documenti ufficiali tra ottobre 2022 e maggio 2023, Presto ha dichiarato che Presto Voice “eliminat[es] human order taking” [“elimina la presa degli ordini da parte di persone”]. L’autorità ha accertato che persone che lavoravano a distanza, soprattutto nelle Filippine e in India, trattavano la grande maggioranza degli ordini.
- Il tasso di successo contava le persone sbagliate. Presto dichiarava tassi di “automated order completion” [“completamento automatico degli ordini”] e di “non-intervention” [“nessun intervento”] dal 95% al 99%. Questi tassi contavano gli ordini completati senza l’aiuto del personale del ristorante. Non contavano gli operatori a distanza.
I numeri
Dal provvedimento dell’autorità:
- Ogni ordine richiedeva una persona per essere inserito nella prima versione del sistema di Presto, in uso da settembre 2022.
- Circa il 70% degli ordini richiedeva ancora una persona in una versione più avanzata, in prova da giugno 2023.
- Dal 95% al 99%: i tassi di “automated order completion” [“completamento automatico degli ordini”] che Presto dava agli investitori.
- Nessuna sanzione. L’autorità ha tenuto conto della situazione finanziaria di Presto, della sua collaborazione e dei cambiamenti introdotti. Presto ha accettato un provvedimento che le ordina di smettere di violare le regole.
Che cosa sapevano all’interno
Il provvedimento cita gli stessi dirigenti di Presto:
- Nel gennaio 2022 uno ha scritto che “with HITL [humans in the loop], accuracy is not a major concern” [“con HITL [persone coinvolte nel processo], l’accuratezza non è un grosso problema”].
- Nell’ottobre 2022 un altro ha detto che l’azienda non doveva parlare di un “automation rate with customers because it infers no supervision which isn’t true” [“tasso di automazione con i clienti perché fa pensare che non ci sia supervisione, il che non è vero”].
- Nel gennaio 2023 un altro ha detto che Presto stava “telling investors Presto AI is running 95%+ accuracy without disclosing AI is doing NONE of the work and all orders are processed by humans” [“dicendo agli investitori che l’IA di Presto ha un’accuratezza superiore al 95% senza rivelare che l’IA non fa NESSUNA parte del lavoro e che tutti gli ordini sono trattati da persone”].
Presto non aveva alcuna procedura per redigere o controllare i suoi documenti ufficiali. Il provvedimento dice che nessuno in azienda era formalmente responsabile di garantirne l’accuratezza.
Che cosa è successo dopo
Presto ha corretto le sue dichiarazioni solo dopo aver saputo dell’indagine. Nell’ottobre 2023 ha dichiarato che operatori a distanza “enter, review, validate and correct orders” [“inseriscono, rivedono, convalidano e correggono gli ordini”]. Nel novembre 2023 ha detto che “over 70% of orders taken by our Presto Voice solution require human agent intervention” [“oltre il 70% degli ordini presi dalla nostra soluzione Presto Voice richiede l’intervento di un operatore umano”]. Nel dicembre 2023 ha aggiunto che il 70% valeva solo per i pochi punti vendita in prova. Nella maggior parte dei punti vendita, che usavano la versione originale, una persona interveniva sul 100% degli ordini.
Che cosa mostra il caso
- Chieda che cosa conta un tasso di successo. Il 95% di Presto escludeva le persone che facevano il lavoro a distanza.
- “Elimina il lavoro umano” è un’affermazione di fatto. L’autorità l’ha messa a confronto con il modo in cui il sistema funzionava davvero.
- Gli avvertimenti dall’interno contano. I dirigenti avevano sollevato il problema più di un anno prima che l’azienda lo correggesse.
Cosa dice sulle pratiche
Pratiche che sono mancate
- Dichiari solo ciò che la sua IA ha dimostrato di saper fare nei test Presto ha dichiarato in cinque documenti ufficiali che la sua IA vocale eliminava la presa degli ordini da parte di persone. L’autorità ha accertato che la prima versione del suo stesso sistema richiedeva una persona per inserire ogni ordine. Subito dopo · Impegno: basso (giorni, una persona)
- Quando l’IA sbaglia, corregga in fretta e apertamente Gli stessi dirigenti di Presto avevano sollevato dubbi sulla formulazione nel 2022 e nel 2023. L’azienda ha corretto le sue dichiarazioni solo dopo aver saputo dell’indagine dell’autorità. Subito dopo · Impegno: basso (giorni, una persona)