W skrócie
- Firma
- Presto AutomationFirma technologiczna dla restauracji
- Wielkość
- Średnie (50–249 pracowników)
- Branża
- E-commerce i handel Klientami Presto są restauracje szybkiej obsługi, które przyjmują zamówienia od klientów tak jak sklepy.
- Gdzie i kiedy
- Stany Zjednoczone. Oświadczenia od listopada 2021 do maja 2023, postanowienie w styczniu 2025.
- Kto podał liczby
- Oficjalny dokumentWszystko na tej stronie pochodzi z postanowienia i komunikatu US Securities and Exchange Commission. Ustalenia zapadły w ramach ugody. Presto ani się do nich nie przyznała, ani im nie zaprzeczyła.
Co się stało
Presto sprzedawała restauracjom szybkiej obsługi Presto Voice. To system, który rozpoznaje mowę i przyjmuje zamówienia w okienku drive-thru. Akcje Presto były notowane na giełdzie Nasdaq od września 2022 do 2024 roku.
Regulator znalazł trzy problemy w tym, co Presto mówiła inwestorom od listopada 2021 do maja 2023 roku.
- AI nie była jej własna. Do września 2022 roku każde działające urządzenie Presto Voice korzystało z technologii mowy, którą miała i obsługiwała inna firma. Presto nazywała ją „naszą” technologią i nie ujawniła rzetelnie, w jakim stopniu zależy od tej firmy.
- Zamówienia przyjmowali ludzie. W pięciu raportach od października 2022 do maja 2023 roku Presto pisała, że Presto Voice “eliminat[es] human order taking” [„eliminuje przyjmowanie zamówień przez ludzi”]. Regulator ustalił, że zdecydowaną większość zamówień obsługiwali ludzie pracujący zdalnie, głównie na Filipinach i w Indiach.
- Wskaźnik skuteczności liczył nie tych ludzi. Presto podawała wskaźniki “automated order completion” [„automatycznej realizacji zamówień”] i “non-intervention” [„braku interwencji”] na poziomie od 95% do 99%. Liczyły one zamówienia zrealizowane bez pomocy pracowników restauracji. Nie uwzględniały pracowników zdalnych.
Liczby
Z postanowienia regulatora:
- Każde zamówienie wymagało człowieka do jego wprowadzenia w pierwszej wersji własnego systemu Presto, używanej od września 2022 roku.
- Około 70% zamówień nadal wymagało człowieka w bardziej zaawansowanej wersji, pilotowanej od czerwca 2023 roku.
- Od 95% do 99%: wskaźniki “automated order completion” [„automatycznej realizacji zamówień”], które Presto podawała inwestorom.
- Bez kary finansowej. Regulator wziął pod uwagę sytuację finansową Presto, jej współpracę i wprowadzone zmiany. Presto zgodziła się na postanowienie nakazujące zaprzestać łamania przepisów.
Co wiedzieli ludzie w firmie
Postanowienie cytuje członków kierownictwa Presto:
- W styczniu 2022 roku jeden z nich napisał, że “with HITL [humans in the loop], accuracy is not a major concern” [„przy HITL [ludziach w pętli] dokładność nie jest dużym problemem”].
- W październiku 2022 roku inny powiedział, że firma nie powinna mówić o “automation rate with customers because it infers no supervision which isn’t true” [„wskaźniku automatyzacji klientom, bo sugeruje on brak nadzoru, co nie jest prawdą”].
- W styczniu 2023 roku inny powiedział, że Presto “telling investors Presto AI is running 95%+ accuracy without disclosing AI is doing NONE of the work and all orders are processed by humans” [„mówi inwestorom, że AI Presto ma ponad 95% dokładności, nie ujawniając, że AI nie wykonuje ŻADNEJ pracy, a wszystkie zamówienia obsługują ludzie”].
Presto nie miała procedury przygotowywania ani sprawdzania swoich raportów. Postanowienie mówi, że nikt w firmie nie odpowiadał formalnie za to, by były zgodne z prawdą.
Co było dalej
Presto poprawiła swoje oświadczenia dopiero, gdy dowiedziała się o dochodzeniu. W październiku 2023 roku ujawniła, że pracownicy zdalni “enter, review, validate and correct orders” [„wprowadzają, przeglądają, weryfikują i poprawiają zamówienia”]. W listopadzie 2023 roku podała, że “over 70% of orders taken by our Presto Voice solution require human agent intervention” [„ponad 70% zamówień przyjmowanych przez nasze rozwiązanie Presto Voice wymaga interwencji człowieka”]. W grudniu 2023 roku dodała, że 70% dotyczy tylko kilku lokalizacji pilotażowych. W większości lokalizacji, gdzie działała pierwotna wersja, człowiek wkraczał przy 100% zamówień.
Co pokazuje ten przypadek
- Pytaj, co liczy wskaźnik skuteczności. 95% Presto pomijało ludzi, którzy wykonywali pracę zdalnie.
- „Eliminuje pracę ludzi” to twierdzenie o faktach. Regulator sprawdził je z tym, jak system naprawdę działał.
- Ostrzeżenia z wewnątrz się liczą. Członkowie kierownictwa wskazali problem ponad rok przed tym, jak firma go poprawiła.
Co ten przypadek mówi o praktykach
Praktyki, których zabrakło
- Obiecuj tylko to, co twoja AI robi w sprawdzonych testach Presto napisała w pięciu raportach, że jej głosowa AI eliminuje przyjmowanie zamówień przez ludzi. Regulator ustalił, że pierwsza wersja jej własnego systemu wymagała człowieka do wprowadzenia każdego zamówienia. Zrób potem · Nakład pracy: niski (dni, jedna osoba)
- Gdy AI się pomyli, popraw błąd szybko i otwarcie Członkowie kierownictwa Presto zgłaszali zastrzeżenia do tych sformułowań w 2022 i 2023 roku. Firma poprawiła swoje oświadczenia dopiero, gdy dowiedziała się o dochodzeniu regulatora. Zrób potem · Nakład pracy: niski (dni, jedna osoba)