W skrócie
- Firma
- Air CanadaLinia lotnicza
- Wielkość
- Duże (1000+ pracowników)
- Branża
- E-commerce i handel Każda firma, która sprzedaje online i odpowiada klientom przez chatbota, stoi przed tym samym pytaniem.
- Gdzie i kiedy
- Kanada (Kolumbia Brytyjska). Listopad 2022 – luty 2024.
- Kto podał liczby
- Akta sądu lub trybunałuWszystko na tej stronie pochodzi z opublikowanego uzasadnienia decyzji trybunału.
Co się stało
W listopadzie 2022 roku klient musiał pilnie polecieć po śmierci kogoś z rodziny. Zapytał chatbota na stronie Air Canada o zniżki na bilety w związku z żałobą. Chatbot odpowiedział, że może kupić bilet i wystąpić o zniżkę w ciągu 90 dni.
To była nieprawda. Zasady Air Canada, opisane na innej podstronie tej samej witryny, nie pozwalały na wnioski po podróży. Klient kupił bilety w pełnej cenie, złożył wniosek i dostał odmowę.
Liczby
Wszystkie kwoty są w dolarach kanadyjskich.
- $1630,36: tyle klient zapłacił za dwa loty.
- $650,88: odszkodowanie przyznane przez trybunał. To różnica w stosunku do ceny ze zniżką, z podatkami i opłatami.
- $812,02: łączna kwota, którą Air Canada musiała zapłacić, z odsetkami i opłatami trybunału.
- Około trzech miesięcy: tyle czasu klient pisał do linii, zanim przyznała, że chatbot użył “misleading words” [„wprowadzających w błąd słów”].
Co stwierdził trybunał
Air Canada twierdziła, że nie może odpowiadać za informacje podane przez jej chatbota. Trybunał nazwał to “a remarkable submission” [„zdumiewającym stanowiskiem”]. Uznał, że chatbot jest częścią strony firmy, a firma odpowiada za wszystkie informacje na swojej stronie. Jak napisał trybunał, nie ma znaczenia, czy informacja pochodzi z “a static page or a chatbot” [„statycznej strony czy z chatbota”].
Uznał też, że Air Canada “did not take reasonable care to ensure its chatbot was accurate” [„nie dołożyła należytej staranności, by jej chatbot podawał dokładne informacje”].
Decyzję wydał trybunał do spraw drobnych roszczeń w jednej kanadyjskiej prowincji. Odnotowuje on, że Air Canada nie podała żadnych informacji o tym, jak działa jej chatbot.
Co pokazuje ten przypadek
- Firma odpowiadała za swojego chatbota. Wskazanie poprawnej strony w innym miejscu witryny nie pomogło. Od klientów nie oczekuje się, że będą sprawdzać jedną część strony z inną.
- Kwota była mała. Koszt nie był. Linia spędziła miesiące na sporze o kilkaset dolarów i przegrała publicznie.
- Ktoś musi odpowiadać za to, co mówi chatbot. Jego odpowiedzi muszą być zgodne z aktualnymi zasadami, a ktoś musi tego pilnować, gdy zasady się zmieniają.
Co ten przypadek mówi o praktykach
Praktyki, których zabrakło
- Wyznacz jedną osobę odpowiedzialną za AI Odpowiedź chatbota była sprzeczna ze stroną linii o jej własnych zasadach. Trybunał uznał, że Air Canada “did not take reasonable care to ensure its chatbot was accurate” [„nie dołożyła należytej staranności, by jej chatbot podawał dokładne informacje”]. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba)
- Zaplanuj budżet na pracę, którą tworzy AI Utrzymywanie odpowiedzi chatbota w zgodzie z aktualnymi zasadami to stała praca. Tu jej nie wykonano, a spór o kilkaset dolarów ciągnął się miesiącami. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba)
- Poznaj przepisy, które już dotyczą twojego korzystania z AI Linia twierdziła, że nie odpowiada za to, co mówi jej chatbot. Trybunał orzekł, że firma odpowiada za wszystko na swojej stronie. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba)
- Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne Trybunał uznał, że linia “did not take reasonable care to ensure its chatbot was accurate” [„nie dołożyła należytej staranności, by jej chatbot podawał dokładne informacje”]. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób)
- Gdy AI się pomyli, popraw błąd szybko i otwarcie Klient pisał do linii przez około trzy miesiące, zanim przyznała, że chatbot użył “misleading words” [„wprowadzających w błąd słów”]. Zrób potem · Nakład pracy: niski (dni, jedna osoba)
Źródła
- Moffatt v. Air Canada, 2024 BCCRT 149. Reasons for decision, 14 February 2024. British Columbia Civil Resolution Tribunal. decisions.civilresolutionbc.ca