AI-first company

Reglas y riesgos · Mantener

Cuando la IA se equivoca, corrija rápido y de forma abierta

Decida ahora qué pasa cuando sale un error de la IA: a quién se avisa, quién retira o corrige el trabajo y quién comprueba hasta dónde llega el problema. En los casos documentados, las empresas que lo reconocieron rápido salieron mucho mejor paradas que las que defendieron el error.

Autor
Última revisión
Correcciones
Avisar de un error
Cuándo Hacer después. Cuando sus primeros usos de la IA ya estén en marcha.
Esfuerzo Bajo (días, una persona)
Evidencia Emergente

Ocho casos documentados tienen que ver con ello, y en tres un tribunal dijo con sus propias palabras que la respuesta cambió el resultado. Ningún estudio lo ha puesto a prueba, y la mayoría de los casos son de despachos de abogados.

Para
Sectores Todos los sectores
En la guía Lo que falla

Qué es

Acuerde ahora un plan breve, antes de que algo salga mal, para el día en que un error de la IA llegue a un cliente, a un tribunal o al público. El plan dice a quién hay que avisar, quién corrige o retira el trabajo, quién informa a los afectados y quién comprueba si el mismo error está en otros trabajos.

Qué muestra la evidencia

Ocho casos documentados son la base de este consejo. En la mayoría, lo que hizo la empresa después del error determinó lo que le costó el error.

Empresas que defendieron el error

  • Doce semanas defendiendo casos falsos. Después de que un despacho de Nueva York presentara seis resoluciones judiciales inventadas, sus abogados las defendieron cuando se les cuestionó. El tribunal dijo que el resultado habría sido “quite different” [“muy distinto”] si hubieran admitido el problema la primera vez que se les preguntó.
  • “Cosmetic errors”. En la sentencia del High Court inglés, cuando a un centro de asesoría jurídica se le dijo que cinco casos que citaba no existían, su primera respuesta fue llamarlos “cosmetic errors” [“errores de forma”]. El tribunal le ordenó pagar 2000 libras en costas inútiles y lo remitió a su regulador.
  • Tres meses para ceder en una reclamación pequeña. Un cliente escribió a Air Canada durante unos tres meses antes de que la aerolínea admitiera que su chatbot había usado “misleading words” [“palabras engañosas”]. La disputa llegó a un tribunal, y la aerolínea perdió en público por unos cientos de dólares.

Empresas que lo reconocieron

  • Retirado al día siguiente. Los abogados de un gran despacho de Estados Unidos retiraron su escrito el día después de que el tribunal preguntara por él, dijeron abiertamente que se había usado IA y pagaron los honorarios de la otra parte. El tribunal citó la “honesty and candor” [“honestidad y franqueza”] del redactor como motivo para una sanción más leve, y no sancionó al despacho. El tribunal señaló también que los abogados podían haber actuado antes: la otra parte había cuestionado los casos ocho días antes.

  • Una revisión externa de todo lo demás. Otro despacho de Estados Unidos admitió el error el mismo día en que preguntó el tribunal y pagó a un segundo despacho para comprobar más de 2400 citas en sus otros escritos. El tribunal dijo que los resultados de esa revisión fueron la razón por la que no suspendió a los abogados.

  • Se denunció a sí mismo. El abogado de un despacho inglés de diez personas pidió disculpas y se denunció ante su regulador. El tribunal decidió no abrir un procedimiento por desacato.

  • Rectificado en pocas semanas. Commonwealth Bank of Australia anunció que 45 puestos de atención al cliente se suprimirían y se sustituirían por un bot de voz con IA. Después de que el sindicato lo impugnara, el banco dijo que su evaluación había sido un “error” y que los puestos no se suprimían. Pidió disculpas y ofreció al personal elegir entre quedarse, pasar a otro puesto o marcharse con indemnización por despido.

Una tercera respuesta: admitir los errores y defender las conclusiones

  • Deloitte Canada redactó un plan de personal sanitario para una provincia canadiense, con un costo de unos CAD 1,6 millones. La prensa informó de al menos cuatro citas de artículos de investigación que no existen. Deloitte reconoció que las cuatro citas eran erróneas y mantuvo las conclusiones del informe. El relato procede de noticias de prensa.

Un caso más muestra una corrección lenta. Un informe de consultoría para un cliente de la administración pública se volvió a publicar para corregir citas erróneas, indicando que se había usado IA. Cuatro meses después llegó una segunda corrección.

Cómo hacerlo

  1. Nombre a quién se avisa. Una persona, normalmente el responsable de la IA o el director general. Cualquiera que encuentre un error de la IA en un trabajo ya entregado se lo dice el mismo día.
  2. Haga que avisar sea seguro. Diga de antemano que informar rápido de un error propio se tratará de forma distinta a ocultarlo. Vea proteja la seguridad psicológica durante la implementación.
  3. Detenga primero el daño. Retire el documento, corrija la página, desactive la respuesta del chatbot.
  4. Informe a los afectados con claridad. Qué estaba mal, cuál es la información correcta y qué está haciendo usted. No lo llame menor hasta saber que lo es.
  5. Diga que intervino la IA, si fue así. En los casos anteriores, los tribunales se enteraron de todos modos.
  6. Compruebe hasta dónde llega. Revise otros trabajos hechos por la misma persona, herramienta o método en el mismo periodo. Corrija todo de una sola vez.
  7. Repare el costo. Devuelva el dinero, rehaga el trabajo o pague lo que el error le costó a la otra parte.
  8. Cambie el proceso y diga qué ha cambiado. Una nueva revisión, un bloqueo, un aviso en la herramienta. Vea mantenga a una persona revisando.
  9. Déjelo por escrito. Un registro de media página de lo que pasó y lo que cambió. Úselo en la formación.

Qué medir

  • El tiempo desde que se encuentra un error hasta que se informa al afectado.
  • El número de rondas de corrección por incidente. El objetivo es una.
  • El número de errores que el propio personal comunica, frente a los que encuentran otros.

Dónde falla

  • La primera respuesta le quita importancia. “Menor” y “de forma” fueron las palabras que empeoraron las cosas.
  • Corregir solo el error que alguien detectó. La segunda corrección es la que daña la confianza.
  • Culpar a la herramienta. Air Canada alegó que la aerolínea no era responsable de su chatbot. El tribunal lo calificó de “a remarkable submission” [“un alegato sorprendente”].
  • Castigar a quien avisa. La próxima vez nadie lo hará.

Según el tamaño de la empresa

  • Micro y pequeña: se avisa al propietario el mismo día, y él escribe personalmente al cliente.
  • Mediana: una persona de contacto con nombre, una lista de comprobación de media página con los pasos anteriores y un registro de incidentes.
  • Mediana-grande y gran empresa: los errores de la IA entran en el proceso de incidentes que ya existe, con el área legal y la de comunicación implicadas desde el primer día.

Casos de empresas

Empresas que lo hicieron

Qué pasó sin ella

Empresas que acabaron adoptándola

Fuentes

Ningún estudio publicado pone a prueba directamente esta práctica, así que se califica como Emergente. La calificación se basa en los casos de empresas de arriba y en las fuentes de abajo.

  1. Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com
  2. Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
  3. Johnson v. Dunn, No. 2:21-cv-1701-AMM. Sanctions order, 23 July 2025. US District Court, Northern District of Alabama. storage.courtlistener.com
  4. Information Age (21 August 2025). CBA reverses AI-driven job cuts, admits error. ia.acs.org.au
  5. HR Reporter (25 November 2025). AI errors: province grapples with Deloitte report marred by false citations. hrreporter.com