Auf einen Blick
- Unternehmen
- Presto AutomationTechnologieunternehmen für Restaurants
- Branche
- E-Commerce und Handel Prestos Kunden sind Schnellrestaurants, die wie Geschäfte Bestellungen von der Kundschaft annehmen.
- Wo und wann
- Vereinigte Staaten. Aussagen von November 2021 bis Mai 2023, Beschluss im Januar 2025.
- Wer die Zahlen erhoben hat
- Amtliche UnterlagenAlles auf dieser Seite stammt aus dem Beschluss und der Mitteilung der US Securities and Exchange Commission. Die Feststellungen wurden im Rahmen eines Vergleichs getroffen. Presto hat sie weder eingeräumt noch bestritten.
Was geschah
Presto verkaufte Presto Voice an Schnellrestaurants. Das System nimmt Bestellungen am Drive-in mit Spracherkennung an. Prestos Aktien waren von September 2022 bis 2024 an der Börse Nasdaq notiert.
Die Behörde fand drei Probleme in dem, was Presto Anlegern zwischen November 2021 und Mai 2023 sagte.
- Die KI war nicht die eigene. Bis September 2022 lief jedes eingesetzte Gerät von Presto Voice mit Sprachtechnik, die einem anderen Unternehmen gehörte und von ihm betrieben wurde. Presto nannte sie „unsere“ Technik und legte nicht ausreichend offen, wie stark es von dem anderen Unternehmen abhing.
- Menschen nahmen die Bestellungen an. In fünf Pflichtmitteilungen zwischen Oktober 2022 und Mai 2023 sagte Presto, Presto Voice “eliminat[es] human order taking” [„macht die Bestellannahme durch Menschen überflüssig“]. Die Behörde fand, dass Menschen an anderen Standorten, vor allem auf den Philippinen und in Indien, den weitaus größten Teil der Bestellungen bearbeiteten.
- Die Erfolgsquote zählte die falschen Menschen. Presto meldete Quoten für “automated order completion” [„automatisch abgeschlossene Bestellungen“] und “non-intervention” [„ohne Eingriff“] von 95 % bis 99 %. Diese Quoten zählten Bestellungen, die ohne Hilfe des Restaurantpersonals abgeschlossen wurden. Die Mitarbeitenden an anderen Standorten zählten sie nicht.
Die Zahlen
Aus dem Beschluss der Behörde:
- Jede Bestellung musste in der ersten Version von Prestos eigenem System, eingesetzt ab September 2022, von einem Menschen eingegeben werden.
- Etwa 70 % der Bestellungen brauchten auch in einer weiterentwickelten Version, die ab Juni 2023 erprobt wurde, noch einen Menschen.
- 95 % bis 99 %: die Quoten für “automated order completion”, die Presto Anlegern nannte.
- Keine Geldbuße. Die Behörde berücksichtigte Prestos finanzielle Lage, seine Kooperation und die Änderungen, die es vorgenommen hatte. Presto stimmte einem Beschluss zu, die Verstöße einzustellen.
Was man intern wusste
Der Beschluss zitiert Prestos eigene Führungskräfte:
- Im Januar 2022 schrieb einer, “with HITL [humans in the loop], accuracy is not a major concern” [„mit HITL [Menschen im Ablauf] ist Genauigkeit kein großes Problem“].
- Im Oktober 2022 sagte ein anderer, das Unternehmen solle nicht über eine “automation rate with customers because it infers no supervision which isn’t true” [„Automatisierungsquote gegenüber Kunden [sprechen], weil sie nahelegt, dass es keine Aufsicht gibt, was nicht stimmt“].
- Im Januar 2023 sagte ein weiterer, Presto sei “telling investors Presto AI is running 95%+ accuracy without disclosing AI is doing NONE of the work and all orders are processed by humans” [„dabei, Anlegern zu sagen, Presto AI arbeite mit über 95 % Genauigkeit, ohne offenzulegen, dass die KI NICHTS von der Arbeit macht und alle Bestellungen von Menschen bearbeitet werden“].
Presto hatte kein Verfahren, um seine Pflichtmitteilungen zu entwerfen oder zu prüfen. Der Beschluss sagt, dass niemand im Unternehmen förmlich dafür verantwortlich war, ihre Richtigkeit sicherzustellen.
Was danach geschah
Presto korrigierte seine Aussagen erst, nachdem es von den Ermittlungen erfahren hatte. Im Oktober 2023 legte es offen, dass Mitarbeitende an anderen Standorten “enter, review, validate and correct orders” [„Bestellungen eingeben, prüfen, bestätigen und korrigieren“]. Im November 2023 sagte es, “over 70% of orders taken by our Presto Voice solution require human agent intervention” [„über 70 % der Bestellungen, die unsere Lösung Presto Voice annimmt, erfordern das Eingreifen eines Menschen“]. Im Dezember 2023 fügte es hinzu, dass die 70 % nur für die wenigen Pilotstandorte galten. An den meisten Standorten, die mit der ursprünglichen Version liefen, griff bei 100 % der Bestellungen ein Mensch ein.
Was der Fall zeigt
- Fragen Sie, was eine Erfolgsquote zählt. Prestos 95 % ließen die Menschen weg, die an anderen Standorten die Arbeit machten.
- „Macht menschliche Arbeit überflüssig“ ist eine Tatsachenbehauptung. Die Behörde prüfte sie daran, wie das System tatsächlich lief.
- Warnungen von innen zählen. Führungskräfte sprachen das Problem mehr als ein Jahr an, bevor das Unternehmen es korrigierte.
Was das über die Praktiken sagt
Praktiken, die fehlten
- Versprechen Sie nur, was Ihre KI nachweislich kann Presto sagte in fünf Pflichtmitteilungen, seine Sprach-KI mache die Bestellannahme durch Menschen überflüssig. Die Behörde fand, dass in der ersten Version des eigenen Systems ein Mensch jede Bestellung eingeben musste. Als Nächstes · Aufwand: gering (Tage, eine Person)
- Wenn KI-Ergebnisse falsch sind, korrigieren Sie schnell und offen Prestos eigene Führungskräfte äußerten 2022 und 2023 Bedenken zur Formulierung. Das Unternehmen korrigierte seine Aussagen erst, nachdem es von den Ermittlungen der Behörde erfahren hatte. Als Nächstes · Aufwand: gering (Tage, eine Person)