Air Canada: ritenuta responsabile di ciò che il chatbot del suo sito aveva detto a un cliente

In sintesi

Azienda

Air CanadaCompagnia aerea

Dimensione

Grandi imprese (1.000+ dipendenti)

Settore

E-commerce e commercio al dettaglio Qualsiasi azienda che vende online e risponde ai clienti con un chatbot si trova davanti alla stessa domanda.

Dove e quando

Canada (Columbia Britannica). Novembre 2022 – febbraio 2024.

Chi ha prodotto le cifre

Atti di un tribunaleTutto ciò che compare in questa pagina proviene dalle motivazioni della decisione pubblicate dal tribunale.

Che cosa è successo

Nel novembre 2022 un cliente doveva prendere un volo con poco preavviso dopo un lutto in famiglia. Ha chiesto al chatbot del sito di Air Canada delle tariffe ridotte per lutto. Il chatbot ha risposto che poteva comprare un biglietto e chiedere la tariffa ridotta entro 90 giorni.

Era sbagliato. Le condizioni di Air Canada, su un’altra pagina dello stesso sito, non ammettevano richieste dopo il viaggio. Il cliente ha comprato biglietti a prezzo pieno, ha fatto la richiesta e gli è stata respinta.

I numeri

Tutti gli importi sono in dollari canadesi.

• $1.630,36: quanto il cliente ha pagato per due voli.
• $650,88: il risarcimento riconosciuto dal tribunale. Era la differenza rispetto alla tariffa ridotta, con tasse e spese.
• $812,02: il totale che Air Canada è stata condannata a pagare, con interessi e spese del tribunale.
• Circa tre mesi: il tempo che il cliente ha passato a scrivere alla compagnia prima che questa ammettesse che il chatbot aveva usato “misleading words” [“parole fuorvianti”].

Che cosa ha detto il tribunale

Air Canada sosteneva di non poter essere ritenuta responsabile delle informazioni date dal suo chatbot. Il tribunale l’ha definita “a remarkable submission” [“una tesi sorprendente”]. Ha stabilito che un chatbot fa parte del sito dell’azienda, e che l’azienda è responsabile di tutte le informazioni sul suo sito. Nelle parole del tribunale, non fa differenza se l’informazione viene da “a static page or a chatbot” [“una pagina statica o un chatbot”].

Ha anche stabilito che Air Canada “did not take reasonable care to ensure its chatbot was accurate” [“non ha usato una ragionevole diligenza per garantire che il suo chatbot fosse accurato”].

La decisione viene da un tribunale per le controversie di modesta entità di una sola provincia canadese. Il tribunale osserva che Air Canada non ha dato alcuna informazione su come funzionava il suo chatbot.

Che cosa mostra il caso

• L’azienda ha risposto del suo chatbot. Rimandare alla pagina corretta in un’altra parte del sito non è servito. Non ci si aspetta che i clienti confrontino una parte del sito con un’altra.
• La somma era piccola. Il costo no. La compagnia ha passato mesi su una controversia da poche centinaia di dollari e ha perso in pubblico.
• Qualcuno deve rispondere di ciò che dice il chatbot. Le sue risposte devono corrispondere alle condizioni in vigore, e qualcuno deve tenerle allineate quando le condizioni cambiano.

Cosa dice sulle pratiche

Pratiche che sono mancate

• Nomini un unico responsabile dell’IA La risposta del chatbot contraddiceva la pagina sulle condizioni della compagnia stessa. Il tribunale ha stabilito che Air Canada “did not take reasonable care to ensure its chatbot was accurate” [“non ha usato una ragionevole diligenza per garantire che il suo chatbot fosse accurato”]. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa
• Preveda un budget per il lavoro che l’IA crea Tenere le risposte di un chatbot allineate alle condizioni in vigore è un lavoro continuo. Qui non è stato fatto, e una controversia per poche centinaia di dollari è durata mesi. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa
• Conosca le regole che valgono già per il suo uso dell’IA La compagnia sosteneva di non essere responsabile di ciò che diceva il suo chatbot. Il tribunale ha stabilito che un’azienda risponde di tutto ciò che c’è sul suo sito. Prima di tutto · Impegno: basso (giorni, una persona) Prove: Pratica diffusa
• Faccia controllare a una persona tutto ciò che va a un cliente o ha valore legale Il tribunale ha stabilito che la compagnia “did not take reasonable care to ensure its chatbot was accurate” [“non ha usato una ragionevole diligenza per garantire che il suo chatbot fosse accurato”]. Prima di tutto · Impegno: medio (settimane, poche persone) Prove: Preliminari
• Quando l’IA sbaglia, corregga in fretta e apertamente Il cliente ha scritto alla compagnia per circa tre mesi prima che questa ammettesse che il chatbot aveva usato “misleading words” [“parole fuorvianti”]. Subito dopo · Impegno: basso (giorni, una persona) Prove: Preliminari

Fonti

1. Moffatt v. Air Canada, 2024 BCCRT 149. Reasons for decision, 14 February 2024. British Columbia Civil Resolution Tribunal. decisions.civilresolutionbc.ca