Caso de empresa

Presto Automation: el regulador de EE. UU. concluyó que la mayoría de los pedidos “con IA” del autoservicio necesitaban una persona

Presto vendía a restaurantes una IA de voz para los pedidos del autoservicio y dijo a los inversores que eliminaba la toma de pedidos por personas. El regulador de valores de EE. UU. concluyó que personas que trabajaban a distancia, sobre todo en Filipinas e India, introducían la gran mayoría de los pedidos. Presto llegó a un acuerdo sin admitir ni negar las conclusiones.

Resultado Salió mal

Algo falló en un trabajo donde se usaba IA, y hay constancia pública de ello.

De un vistazo

Empresa
Presto AutomationEmpresa de tecnología para restaurantes
Tamaño
Mediana (50–249 empleados)
Sector
Comercio electrónico y minorista Los clientes de Presto son restaurantes de comida rápida, que toman pedidos del público como lo hacen las tiendas.
Dónde y cuándo
Estados Unidos. Declaraciones de noviembre de 2021 a mayo de 2023, orden de enero de 2025.
Quién produjo las cifras
Registro oficialTodo lo que aparece en esta página procede de la orden y el anuncio de la US Securities and Exchange Commission. Las conclusiones se establecieron en un acuerdo. Presto no las admitió ni las negó.

Qué pasó

Presto vendía Presto Voice a restaurantes de comida rápida. Usa reconocimiento de voz para tomar los pedidos del autoservicio. Las acciones de Presto cotizaron en la bolsa Nasdaq desde septiembre de 2022 hasta 2024.

El regulador encontró tres problemas en lo que Presto dijo a los inversores entre noviembre de 2021 y mayo de 2023.

  • La IA no era suya. Hasta septiembre de 2022, todas las unidades de Presto Voice en servicio funcionaban con tecnología de voz que pertenecía a otra empresa y que esta gestionaba. Presto la llamaba “nuestra” tecnología y no informó debidamente de cuánto dependía de la otra empresa.
  • Los pedidos los tomaban personas. En cinco documentos oficiales entre octubre de 2022 y mayo de 2023, Presto dijo que Presto Voice “eliminat[es] human order taking” [“elimina la toma de pedidos por personas”]. El regulador concluyó que personas que trabajaban a distancia, sobre todo en Filipinas e India, procesaban la gran mayoría de los pedidos.
  • La tasa de éxito contaba a las personas equivocadas. Presto informó de tasas de “automated order completion” [“pedidos completados automáticamente”] y de “non-intervention” [“sin intervención”] del 95 % al 99 %. Esas tasas contaban los pedidos completados sin ayuda del personal del restaurante. No contaban a los agentes que trabajaban a distancia.

Las cifras

Según la orden del regulador:

  • Todos los pedidos necesitaban una persona que los introdujera en la primera versión del sistema propio de Presto, puesta en servicio desde septiembre de 2022.
  • Cerca del 70 % de los pedidos seguía necesitando una persona en una versión más avanzada probada en piloto desde junio de 2023.
  • Del 95 % al 99 %: las tasas de “automated order completion” que Presto dio a los inversores.
  • Sin multa. El regulador tuvo en cuenta la situación financiera de Presto, su cooperación y los cambios que hizo. Presto aceptó una orden de dejar de incumplir las normas.

Qué sabían dentro de la empresa

La orden cita a los propios directivos de Presto:

  • En enero de 2022 uno escribió que “with HITL [humans in the loop], accuracy is not a major concern” [“con HITL (personas en el circuito), la exactitud no es una gran preocupación”].
  • En octubre de 2022 otro dijo que la empresa no debía hablar de un “automation rate with customers because it infers no supervision which isn’t true” [“índice de automatización con los clientes, porque da a entender que no hay supervisión, lo cual no es cierto”].
  • En enero de 2023 otro dijo que Presto estaba “telling investors Presto AI is running 95%+ accuracy without disclosing AI is doing NONE of the work and all orders are processed by humans” [“diciendo a los inversores que la IA de Presto funciona con más del 95 % de exactitud sin revelar que la IA no hace NADA del trabajo y que todos los pedidos los procesan personas”].

Presto no tenía ningún proceso para redactar o revisar sus documentos oficiales. La orden dice que nadie en la empresa era formalmente responsable de asegurarse de que fueran exactos.

Qué pasó después

Presto corrigió sus declaraciones solo después de enterarse de la investigación. En octubre de 2023 informó de que los agentes a distancia “enter, review, validate and correct orders” [“introducen, revisan, validan y corrigen los pedidos”]. En noviembre de 2023 dijo que “over 70% of orders taken by our Presto Voice solution require human agent intervention” [“más del 70 % de los pedidos que toma nuestra solución Presto Voice requieren la intervención de un agente humano”]. En diciembre de 2023 añadió que el 70 % se refería solo a los pocos locales del piloto. En la mayoría de los locales, que usaban la versión original, una persona intervenía en el 100 % de los pedidos.

Qué muestra el caso

  • Pregunte qué cuenta una tasa de éxito. El 95 % de Presto dejaba fuera a las personas que hacían el trabajo a distancia.
  • “Elimina el trabajo de las personas” es una afirmación sobre hechos. El regulador la contrastó con cómo funcionaba de verdad el sistema.
  • Las advertencias internas cuentan. Los directivos señalaron el problema más de un año antes de que la empresa lo corrigiera.

Qué dice sobre las prácticas

Prácticas que faltaron

Fuentes

  1. US Securities and Exchange Commission (14 January 2025). In the Matter of Presto Automation Inc. Announcement of settled charges, File No. 3-22413. sec.gov
  2. US Securities and Exchange Commission (14 January 2025). Order instituting cease-and-desist proceedings, Release No. 33-11352. sec.gov