De un vistazo
- Empresa
- Air CanadaAerolínea
- Sector
- Comercio electrónico y minorista Cualquier empresa que vende en línea y atiende a sus clientes con un chatbot se enfrenta a la misma pregunta.
- Dónde y cuándo
- Canadá (Columbia Británica). Noviembre de 2022 – febrero de 2024.
- Quién produjo las cifras
- Registro de un tribunalTodo lo que aparece en esta página procede de la resolución motivada publicada por el tribunal.
Qué pasó
En noviembre de 2022 un cliente necesitaba volar con poca antelación tras la muerte de un familiar. Preguntó al chatbot de la web de Air Canada por las tarifas reducidas por duelo. El chatbot le dijo que podía comprar un billete y solicitar la tarifa reducida en un plazo de 90 días.
Era falso. Las condiciones de Air Canada, en otra página de la misma web, no permitían solicitarla después del viaje. El cliente compró billetes a precio completo, presentó la solicitud y se la denegaron.
Las cifras
Todos los importes están en dólares canadienses.
- $1630,36: lo que pagó el cliente por dos vuelos.
- $650,88: la indemnización que concedió el tribunal. Era la diferencia con la tarifa reducida, con impuestos y tasas.
- $812,02: el total que se ordenó pagar a Air Canada, con intereses y tasas del tribunal.
- Unos tres meses: el tiempo que el cliente pasó escribiendo a la aerolínea antes de que esta admitiera que el chatbot había usado “misleading words” [“palabras engañosas”].
Qué dijo el tribunal
Air Canada alegó que no se la podía hacer responsable de la información que daba su chatbot. El tribunal lo calificó de “a remarkable submission” [“un argumento sorprendente”]. Concluyó que un chatbot forma parte de la web de la empresa, y que la empresa es responsable de toda la información de su web. En palabras del tribunal, da igual que la información venga de “a static page or a chatbot” [“una página estática o un chatbot”].
También concluyó que Air Canada “did not take reasonable care to ensure its chatbot was accurate” [“no tuvo un cuidado razonable para asegurarse de que su chatbot fuera exacto”].
La decisión es de un tribunal de reclamaciones menores de una provincia de Canadá. Señala que Air Canada no dio ninguna información sobre cómo funcionaba su chatbot.
Qué muestra el caso
- La empresa respondió por su chatbot. Señalar la página correcta en otra parte de la web no le sirvió. No se espera que los clientes contrasten una parte de una web con otra.
- La cantidad era pequeña. El costo no. La aerolínea dedicó meses a una disputa por unos pocos cientos de dólares y perdió en público.
- Alguien tiene que hacerse cargo de lo que dice el chatbot. Sus respuestas tienen que coincidir con las condiciones vigentes, y alguien tiene que mantenerlas al día cuando las condiciones cambian.
Qué dice sobre las prácticas
Prácticas que faltaron
- Nombre a un único responsable de la IA La respuesta del chatbot contradecía la propia página de condiciones de la aerolínea. El tribunal concluyó que Air Canada “did not take reasonable care to ensure its chatbot was accurate” [“no tuvo un cuidado razonable para asegurarse de que su chatbot fuera exacto”]. Hacer primero · Esfuerzo: bajo (días, una persona)
- Presupueste el trabajo que crea la IA Mantener las respuestas de un chatbot al día con las condiciones vigentes es un trabajo continuo. Aquí no se hizo, y una disputa por unos pocos cientos de dólares se alargó durante meses. Hacer primero · Esfuerzo: bajo (días, una persona)
- Conozca las reglas que ya se aplican a su uso de la IA La aerolínea alegó que no era responsable de lo que decía su chatbot. El tribunal resolvió que una empresa responde de todo lo que hay en su web. Hacer primero · Esfuerzo: bajo (días, una persona)
- Mantenga a una persona revisando todo lo que llega a un cliente o tiene peso legal El tribunal concluyó que la aerolínea “did not take reasonable care to ensure its chatbot was accurate” [“no tuvo un cuidado razonable para asegurarse de que su chatbot fuera exacto”]. Hacer primero · Esfuerzo: medio (semanas, unas pocas personas)
- Cuando la IA se equivoca, corrija rápido y de forma abierta El cliente estuvo escribiendo a la aerolínea durante unos tres meses antes de que esta admitiera que el chatbot había usado “misleading words” [“palabras engañosas”]. Hacer después · Esfuerzo: bajo (días, una persona)
Fuentes
- Moffatt v. Air Canada, 2024 BCCRT 149. Reasons for decision, 14 February 2024. British Columbia Civil Resolution Tribunal. decisions.civilresolutionbc.ca