Auf einen Blick
- Unternehmen
- Air CanadaFluggesellschaft
- Branche
- E-Commerce und Handel Jedes Unternehmen, das online verkauft und Kunden über einen Chatbot antwortet, steht vor derselben Frage.
- Wo und wann
- Kanada (British Columbia). November 2022 – Februar 2024.
- Wer die Zahlen erhoben hat
- GerichtsaktenAlles auf dieser Seite stammt aus der veröffentlichten Entscheidungsbegründung des Schiedsgerichts.
Was passiert ist
Im November 2022 musste ein Kunde nach einem Todesfall in der Familie kurzfristig fliegen. Er fragte den Chatbot auf der Website von Air Canada nach ermäßigten Tarifen für Trauerfälle. Der Chatbot sagte, er könne ein Ticket kaufen und den ermäßigten Tarif innerhalb von 90 Tagen beantragen.
Das war falsch. Die Regelung von Air Canada, auf einer anderen Seite derselben Website, ließ keine Anträge nach der Reise zu. Der Kunde kaufte Tickets zum vollen Preis, stellte den Antrag und wurde abgewiesen.
Die Zahlen
Alle Beträge sind in kanadischen Dollar.
- $1.630,36: was der Kunde für zwei Flüge zahlte.
- $650,88: der Schadenersatz, den das Schiedsgericht zusprach. Das war der Unterschied zum ermäßigten Tarif, mit Steuern und Gebühren.
- $812,02: der Gesamtbetrag, den Air Canada zahlen musste, mit Zinsen und Verfahrensgebühren.
- Rund drei Monate: so lange schrieb der Kunde der Airline, bevor sie zugab, dass der Chatbot „misleading words“ [„irreführende Worte“] verwendet hatte.
Was das Schiedsgericht sagte
Air Canada argumentierte, sie könne für Auskünfte ihres Chatbots nicht haftbar gemacht werden. Das Schiedsgericht nannte das „a remarkable submission“ [„ein bemerkenswertes Vorbringen“]. Es stellte fest, dass ein Chatbot Teil der Website des Unternehmens ist und dass das Unternehmen für alle Informationen auf seiner Website verantwortlich ist. In den Worten des Schiedsgerichts macht es keinen Unterschied, ob die Information von „a static page or a chatbot“ [„einer statischen Seite oder einem Chatbot“] kommt.
Es stellte außerdem fest, dass Air Canada „did not take reasonable care to ensure its chatbot was accurate“ [„nicht die gebotene Sorgfalt walten ließ, damit ihr Chatbot korrekt war“].
Die Entscheidung stammt von einem Schiedsgericht für geringe Streitwerte in einer kanadischen Provinz. Sie hält fest, dass Air Canada keine Angaben dazu machte, wie ihr Chatbot funktionierte.
Was der Fall zeigt
- Das Unternehmen haftete für seinen Chatbot. Der Hinweis auf die richtige Seite an anderer Stelle der Website half nicht. Von Kunden wird nicht erwartet, einen Teil einer Website mit einem anderen abzugleichen.
- Die Summe war klein. Die Kosten nicht. Die Airline verbrachte Monate mit einem Streit um wenige hundert Dollar und verlor öffentlich.
- Jemand muss für das verantwortlich sein, was der Chatbot sagt. Seine Antworten müssen den aktuellen Regeln entsprechen, und jemand muss sie anpassen, wenn sich die Regeln ändern.
Was das über die Praktiken sagt
Praktiken, die fehlten
- Benennen Sie eine verantwortliche Person für KI Die Antwort des Chatbots widersprach der eigenen Regelungsseite der Airline. Das Schiedsgericht stellte fest, dass Air Canada „did not take reasonable care to ensure its chatbot was accurate“ [„nicht die gebotene Sorgfalt walten ließ, damit ihr Chatbot korrekt war“]. Zuerst · Aufwand: gering (Tage, eine Person)
- Planen Sie Budget für die Arbeit ein, die KI erzeugt Die Antworten eines Chatbots mit den aktuellen Regeln in Einklang zu halten, ist Daueraufgabe. Hier wurde sie nicht erledigt, und ein Streit um wenige hundert Dollar zog sich über Monate. Zuerst · Aufwand: gering (Tage, eine Person)
- Kennen Sie die Regeln, die für Ihren KI-Einsatz schon gelten Die Airline argumentierte, sie hafte nicht für das, was ihr Chatbot sagt. Das Schiedsgericht entschied, dass ein Unternehmen für alles auf seiner Website einsteht. Zuerst · Aufwand: gering (Tage, eine Person)
- Lassen Sie einen Menschen alles prüfen, was an Kunden geht oder rechtliches Gewicht hat Das Schiedsgericht stellte fest, dass die Airline „did not take reasonable care to ensure its chatbot was accurate“ [„nicht die gebotene Sorgfalt walten ließ, damit ihr Chatbot korrekt war“]. Zuerst · Aufwand: mittel (Wochen, einige Personen)
- Wenn KI-Ergebnisse falsch sind, korrigieren Sie schnell und offen Der Kunde schrieb der Airline rund drei Monate lang, bevor sie zugab, dass der Chatbot „misleading words“ [„irreführende Worte“] verwendet hatte. Als Nächstes · Aufwand: gering (Tage, eine Person)
Quellen
- Moffatt v. Air Canada, 2024 BCCRT 149. Reasons for decision, 14 February 2024. British Columbia Civil Resolution Tribunal. decisions.civilresolutionbc.ca