De un vistazo
- Empresa
- Workado (formerly Content at Scale AI)Proveedor de software: herramientas de redacción y detección con IA
- Tamaño
- La fuente no lo indica
- Sector
- Agencias Las agencias y las editoriales compran herramientas como esta para comprobar si un texto lo ha escrito una IA.
- Dónde y cuándo
- Estados Unidos. Denuncia en abril de 2025, resolución firme en agosto de 2025.
- Quién produjo las cifras
- Registro oficialTodo lo que aparece en esta página procede de dos anuncios de la US Federal Trade Commission. Las cifras son acusaciones del regulador, cerradas mediante un acuerdo.
Qué pasó
Workado vendía un “AI Content Detector” [“detector de contenido de IA”]. La herramienta debía decir si un texto lo había escrito una persona o una IA generativa. La empresa lo anunciaba con un 98 % de acierto.
También decía que el detector se había construido con muchos tipos de textos, como entradas de blog y artículos de Wikipedia, para que funcionara con usuarios corrientes.
Las cifras
- 98 %: el acierto que anunciaba la empresa.
- 53 %: el acierto en contenido de uso general en pruebas independientes, según la denuncia del regulador.
- Un solo tipo de texto. El regulador dijo que el modelo en el que se basaba se había entrenado solo para clasificar textos académicos.
El director de la oficina de protección del consumidor del regulador dijo que el producto “did no better than a coin toss” [“no lo hacía mejor que lanzar una moneda al aire”].
El resultado
La empresa aceptó una resolución, que se hizo firme en agosto de 2025. Debe:
- no hacer ninguna afirmación sobre lo bien que funciona un producto de detección a menos que tenga en ese momento una evidencia competente y fiable;
- conservar esa evidencia;
- enviar un correo electrónico a los clientes afectados sobre la resolución;
- informar al regulador al cabo de un año, y después cada año durante tres años más.
Qué muestra el caso
- Una cifra de acierto destacada puede venir de una prueba muy limitada. La herramienta se ajustó con textos académicos. Con textos corrientes acertaba más o menos la mitad de las veces.
- Pregunte con qué se midió la cifra. Si el material de la prueba no se parece a su material, la cifra le dice poco.
- Haga su propia prueba pequeña. Cincuenta textos cuyo origen ya conozca habrían mostrado la diferencia.
Qué dice sobre las prácticas
Prácticas que faltaron
- Pida pruebas a los proveedores de IA antes de comprar, y haga una prueba con su propio material La cifra de acierto del proveedor no tenía detrás una evidencia adecuada. Un comprador que hubiera pedido los resultados de las pruebas no habría encontrado ninguno que se ajustara a su tipo de texto. Hacer primero · Esfuerzo: medio (semanas, unas pocas personas)
- Afirme solo lo que se ha comprobado que su IA hace La empresa anunciaba un 98 % de acierto. El regulador dijo que pruebas independientes dieron un 53 % en contenido de uso general. Hacer después · Esfuerzo: bajo (días, una persona)