AI-first company

Zasady i ryzyko · Utrzymanie

Gdy AI się pomyli, popraw błąd szybko i otwarcie

Zdecyduj już teraz, co się dzieje, gdy błąd AI wyjdzie na zewnątrz: kogo się powiadamia, kto wycofuje lub poprawia pracę i kto sprawdza, jak daleko sięga problem. W opisanych przypadkach firmy, które szybko przyznały się do błędu, potraktowano znacznie łagodniej niż te, które go broniły.

Autor
Ostatni przegląd
Poprawki
Zgłoś błąd
Kiedy Zrób potem. Gdy pierwsze zastosowania AI już działają.
Nakład pracy Niski (dni, jedna osoba)
Dowody Wstępne

Dotyczy tego osiem opisanych przypadków, a w trzech sąd sam napisał, że reakcja firmy zmieniła wynik. Żadne badanie tego nie sprawdziło, a większość przypadków dotyczy kancelarii prawnych.

Pasuje do
Branże Wszystkie branże
W przewodniku Co zawodzi

Na czym to polega

Uzgodnij teraz, zanim cokolwiek pójdzie źle, krótki plan na dzień, w którym błąd AI dotrze do klienta, sądu lub opinii publicznej. Plan mówi, kogo trzeba powiadomić, kto poprawia lub wycofuje pracę, kto informuje osoby, których to dotyczy, i kto sprawdza, czy ten sam błąd nie tkwi w innych pracach.

Co pokazują dowody

Podstawą tej rady jest osiem opisanych przypadków. W większości z nich to, co firma zrobiła po błędzie, zdecydowało o tym, ile ten błąd kosztował.

Firmy, które broniły błędu

  • Dwanaście tygodni obrony fikcyjnych orzeczeń. Gdy kancelaria z Nowego Jorku powołała się w piśmie na sześć zmyślonych orzeczeń sądowych, jej prawnicy bronili ich po zakwestionowaniu. Sąd stwierdził, że wynik byłby “quite different” [„zupełnie inny”], gdyby przyznali się do problemu, gdy zapytano ich o to po raz pierwszy.
  • “Cosmetic errors”. W wyroku angielskiego High Court pierwszą odpowiedzią poradni prawnej na wiadomość, że pięć przywołanych orzeczeń nie istnieje, było nazwanie ich “cosmetic errors” [„błędami kosmetycznymi”]. Sąd nakazał jej zapłatę £2000 kosztów poniesionych na próżno i skierował sprawę do organu nadzoru.
  • Trzy miesiące, by przyznać rację w drobnej sprawie. Klient pisał do Air Canada przez około trzy miesiące, zanim linia lotnicza przyznała, że jej chatbot użył “misleading words” [„wprowadzających w błąd słów”]. Spór trafił do trybunału, a linia publicznie przegrała sprawę o kilkaset dolarów.

Firmy, które się przyznały

  • Wycofane następnego dnia. Prawnicy dużej amerykańskiej kancelarii wycofali swoje pismo dzień po tym, jak sąd o nie zapytał, otwarcie przyznali, że użyto AI, i pokryli koszty drugiej strony. Sąd wskazał “honesty and candor” [„uczciwość i szczerość”] autora pisma jako powód łagodniejszej kary i nie ukarał kancelarii. Sąd zauważył też, że prawnicy mogli zareagować wcześniej: druga strona zakwestionowała orzeczenia osiem dni wcześniej.
  • Zewnętrzne sprawdzenie wszystkiego innego. Inna amerykańska kancelaria przyznała się do błędu tego samego dnia, w którym zapytał o niego sąd, i zapłaciła innej kancelarii za sprawdzenie ponad 2400 przypisów w pozostałych pismach. Sąd stwierdził, że to wyniki tego sprawdzenia sprawiły, że nie zawiesił prawników.
  • Samodzielne zgłoszenie. Prawnik z dziesięcioosobowej angielskiej kancelarii przeprosił i sam zgłosił się do swojego organu nadzoru. Sąd zdecydował, że nie wszczyna postępowania o obrazę sądu.
  • Odwołane w ciągu kilku tygodni. Commonwealth Bank of Australia ogłosił, że zlikwiduje 45 stanowisk w obsłudze klienta i zastąpi je głosowym botem AI. Gdy związek zawodowy to zakwestionował, bank przyznał, że jego ocena była “error” [„błędem”], a stanowiska nie są zbędne. Przeprosił i dał pracownikom wybór: zostać, przejść na inne stanowisko albo odejść z odprawą.

Trzecia reakcja: przyznać się do błędów, bronić wniosków

  • Deloitte Canada przygotowało dla jednej z kanadyjskich prowincji plan kadr w ochronie zdrowia, kosztujący około CAD 1,6 mln. Prasa opisała co najmniej cztery przypisy do prac naukowych, które nie istnieją. Deloitte przyznało, że te cztery przypisy były błędne, i podtrzymało wnioski raportu. Ten opis pochodzi z doniesień prasowych.

Jeszcze jeden przypadek pokazuje powolną korektę. Raport doradczy dla klienta rządowego wydano ponownie, żeby poprawić błędne przypisy, i ujawniono w nim użycie AI. Cztery miesiące później przyszła druga korekta.

Jak to zrobić

  1. Wskaż, kogo się powiadamia. Jedną osobę, zwykle osobę odpowiedzialną za AI albo dyrektora zarządzającego. Każdy, kto znajdzie błąd AI w pracy, która wyszła na zewnątrz, informuje tę osobę tego samego dnia.
  2. Spraw, by zgłaszanie było bezpieczne. Zapowiedz z góry, że szybkie zgłoszenie własnego błędu będzie traktowane inaczej niż jego ukrywanie. Zob. chroń poczucie bezpieczeństwa psychologicznego podczas wdrożenia.
  3. Najpierw zatrzymaj szkodę. Wycofaj dokument, popraw stronę, wyłącz odpowiedź chatbota.
  4. Poinformuj osoby, których to dotyczy, prostymi słowami. Co było źle, jaka jest poprawna informacja i co robisz. Nie nazywaj błędu drobnym, dopóki nie wiesz, że taki jest.
  5. Powiedz, że użyto AI, jeśli tak było. W opisanych wyżej przypadkach sądy i tak się o tym dowiedziały.
  6. Sprawdź, jak daleko to sięga. Przejrzyj inne prace wykonane przez tę samą osobę, tym samym narzędziem lub tą samą metodą w tym samym okresie. Popraw wszystko w jednej rundzie.
  7. Napraw koszt. Zwróć pieniądze, wykonaj pracę ponownie albo zapłać to, ile błąd kosztował drugą stronę.
  8. Zmień proces i powiedz, co się zmieniło. Nowe sprawdzenie, blokada, komunikat w narzędziu. Zob. niech człowiek sprawdza to, co wychodzi na zewnątrz.
  9. Zapisz to. Półstronicowy opis tego, co się stało i co się zmieniło. Używaj go na szkoleniach.

Co mierzyć

  • Czas od znalezienia błędu do poinformowania osoby, której dotyczy.
  • Liczbę rund poprawek na jeden incydent. Cel to jedna.
  • Liczbę błędów, które pracownicy zgłaszają sami, w porównaniu z tymi, które znaleźli ludzie z zewnątrz.

Gdzie to zawodzi

  • Pierwsza odpowiedź bagatelizuje problem. To słowa „drobny” i „kosmetyczny” pogorszyły sprawę.
  • Poprawianie tylko błędu, który ktoś zauważył. To druga korekta niszczy zaufanie.
  • Zrzucanie winy na narzędzie. Air Canada twierdziła, że linia nie odpowiada za swojego chatbota. Trybunał nazwał to “a remarkable submission” [„zadziwiającym stanowiskiem”].
  • Karanie osoby, która zgłasza. Następnym razem nikt nie zgłosi.

Według wielkości firmy

  • Mikro i małe: właściciel dowiaduje się tego samego dnia i osobiście pisze do klienta.
  • Średnie: wskazana osoba kontaktowa, półstronicowa lista kroków opisanych wyżej i rejestr incydentów.
  • Średnio-duże i duże: błędy AI trafiają do istniejącego procesu obsługi incydentów, z udziałem działu prawnego i komunikacji od pierwszego dnia.

Przypadki firm

Firmy, które to zrobiły

Co się stało bez niej

Firmy, które w końcu ją przyjęły

Źródła

Żadne opublikowane badanie nie sprawdza tej praktyki bezpośrednio, dlatego ma ocenę „Wstępne”. Ocena opiera się na przypadkach firm opisanych wyżej i na źródłach podanych niżej.

  1. Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com
  2. Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
  3. Johnson v. Dunn, No. 2:21-cv-1701-AMM. Sanctions order, 23 July 2025. US District Court, Northern District of Alabama. storage.courtlistener.com
  4. Information Age (21 August 2025). CBA reverses AI-driven job cuts, admits error. ia.acs.org.au
  5. HR Reporter (25 November 2025). AI errors: province grapples with Deloitte report marred by false citations. hrreporter.com