Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne

Na czym to polega

Zanim wynik AI zostanie użyty, niech wskazana osoba go sprawdzi i weźmie za niego odpowiedzialność. Niech to będzie stały krok dla dwóch rodzajów wyników.

• Wszystko, co trafia do klienta lub poza firmę: e-maile, oferty, raporty, porady, odpowiedzi chatbota, publikowane teksty.
• Wszystko, co ma znaczenie prawne lub finansowe: umowy, pisma do sądów i regulatorów, decyzje o zatrudnieniu i zwolnieniu, decyzje kredytowe, sprawozdania finansowe.

Sprawdzanie oznacza porównanie wyniku z czymś prawdziwym: dokumentem źródłowym, bazą danych, regulaminem, faktami sprawy. Przeczytanie tekstu pod kątem tonu to nie jest sprawdzenie.

Sprawdzanie może też stać się warunkiem twojego ubezpieczenia. Prasa branżowa w Stanach Zjednoczonych podaje, że standardowe warunki polis od odpowiedzialności cywilnej mogą teraz wyłączać szkody wynikające z generatywnej AI. Zob. poznaj przepisy, które dotyczą twojego korzystania z AI.

Co pokazują dowody

Podstawą tej rady są opisane przypadki wymienione niżej w sekcji „Przypadki firm”. W każdym z nich wynik AI wyszedł na zewnątrz, a nikt nie porównał go ze źródłem.

Te przypadki nie są wyjątkami. Na 16 października 2026 roku baza danych prowadzona przez jednego badacza wymienia 2199 orzeczeń sądowych dotyczących materiałów wymyślonych przez AI: 1266 dotyczy osób bez prawnika, 871 prawników, a 32 sędziów.

• Zmyślone źródła trafiły do sądów. Kancelaria z Nowego Jorku powołała się na sześć orzeczeń sądowych, które nie istniały. Dziesięcioosobowa angielska kancelaria na 18. Duża amerykańska kancelaria na osiem, z własnego wewnętrznego narzędzia AI. Kolejna na pięć. Za każdym razem sprawdzenie źródeł wyłapałoby błąd.
• Drugi podpis nie pomógł. W sprawie dużej amerykańskiej kancelarii dwóch kolejnych prawników podpisało dokument, nie czytając go. Sąd ukarał grzywną także ich.
• Błędny raport trafił do sądu i do zleceniodawcy. Raport w sprawie ochrony dziecka przygotowany z pomocą ChatGPT opisał poważne zagrożenie dla dziecka jako mocną stronę. Raport doradczy trzeba było wydać ponownie dwa razy.
• Odpowiedź chatbota zobowiązała firmę. Trybunał nakazał Air Canada zapłatę klientowi, który polegał na błędnej odpowiedzi jej chatbota.
• Pracownicy potraktowali alert jak fakt. W Rite Aid pracownicy oskarżali klientów, bo system rozpoznawania twarzy ich oznaczył. System często się mylił.
• Tam, gdzie podział zaprojektowano, zadziałał. Firma rekrutacyjna powierzyła AI prowadzenie rozmów kwalifikacyjnych, a każdą decyzję o zatrudnieniu zostawiła rekruterowi. Liczba ofert pracy i odsetek pracowników, którzy zostali w firmie, wzrosły w badaniu, w którym kandydatów losowo przydzielano do rozmowy z AI albo z człowiekiem.

Badania wyjaśniają ograniczenia:

• W niektórych zadaniach AI myli się z pełnym przekonaniem. W eksperymencie z 758 konsultantami osoby korzystające z AI o 19 punktów procentowych rzadziej dochodziły do poprawnej odpowiedzi w zadaniu, które AI wykonywała źle.
• Udział człowieka niczego nie gwarantuje. W 106 eksperymentach człowiek pracujący z AI radził sobie średnio gorzej niż lepsze z tych dwojga pracujące osobno. Osoba, która tylko przegląda tekst pobieżnie, wnosi niewiele. Sprawdzenie musi być prawdziwym porównaniem ze źródłem, wykonanym przez kogoś, kto zna temat.
• Osoba sprawdzająca może tracić umiejętność, której sprawdzanie wymaga. W ankiecie wśród 319 pracowników umysłowych osoby, które bardziej ufały AI, deklarowały mniej krytycznego myślenia o jej wynikach. Odpowiedzi są deklarowane, a autorzy pracują dla Microsoftu, który sprzedaje narzędzia AI. W badaniu w czterech ośrodkach endoskopii w Polsce lekarze trzy miesiące po wprowadzeniu AI znajdowali bez niej mniej zmian.
• Sprawdzanie można skierować tam, gdzie jest ryzyko. W szwedzkim badaniu przesiewowym raka piersi z udziałem 105 934 kobiet AI decydowała, które zdjęcia ocenia jeden radiolog, a które dwóch. Wykryto więcej nowotworów, 6,4 wobec 5,0 na 1000 kobiet, a praca radiologów przy ocenie zdjęć spadła o 44,2%. Człowiek nie sprawdzał każdego zdjęcia w ten sam sposób.

Jak to zrobić

1. Wypisz, co wychodzi na zewnątrz. Zapisz każdy rodzaj wyników, przy których używa się AI, i zaznacz, które trafiają do klienta lub mają znaczenie prawne.
2. Dla każdego wskaż osobę sprawdzającą. Jedną osobę, z imienia i nazwiska albo z funkcji. Osoba sprawdzająca musi znać temat na tyle dobrze, żeby zauważyć błąd.
3. Określ, z czym porównywać. Fakty i liczby: z dokumentem źródłowym. Cytaty i przypisy: każdy sprawdź w prawdziwej bazie danych. Odpowiedzi chatbota: z aktualnym regulaminem lub cennikiem.
4. Włącz sprawdzanie do procesu. Dodaj wiersz do formularza zatwierdzenia, listy kontrolnej przed złożeniem pisma albo procesu publikacji. Jedna z opisanych wyżej kancelarii wprowadziła sprawdzanie przed każdym pismem do sądu: potwierdzić, że każdy przywołany wyrok istnieje, jest przytoczony dokładnie i ma związek ze sprawą.
5. Niech podpis coś znaczy. Kto podpisuje, ten przeczytał dokument. Sąd nazwał ten obowiązek takim, którego nie można przekazać komuś innemu.
6. Sprawdzaj też materiały przychodzące. W sprawie angielskiej wyniki wyszukiwania z AI pochodziły od klienta. Stosuj to samo sprawdzanie do wersji roboczych od klientów, dostawców i freelancerów oraz do porad AI, na podstawie których sam działasz. W badaniu w Kenii właściciele sami działali na podstawie sugestii doradcy AI, a najsłabsi radzili sobie gorzej. Zob. sprawdź porady AI, zanim zaczniesz działać.
7. W przypadku chatbotów sprawdzaj próbki. Dotyczy to też AI w twojej platformie reklamowej. Brytyjski regulator reklamy uznaje reklamodawcę za odpowiedzialnego za reklamy złożone przez automatyczne narzędzia. Nikt nie przeczyta każdej odpowiedzi przed wysłaniem. Co tydzień czytaj próbkę odpowiedzi, testuj bota po każdej zmianie regulaminu lub cen i daj klientom sposób, by dotarli do człowieka.
8. Kieruj wysiłek sprawdzania tam, gdzie jest ryzyko. Najdokładniej sprawdzaj wyniki wysokiego ryzyka, tak jak w badaniu przesiewowym. Nie rozkładaj tego samego pobieżnego sprawdzenia na wszystko.
9. Zarezerwuj na to czas. Zob. zaplanuj budżet na pracę, którą tworzy AI.

Co mierzyć

• Odsetek wychodzących prac wykonanych z pomocą AI, przy których zapisano sprawdzenie.
• Błędy wyłapane przy sprawdzaniu w ciągu miesiąca. Zachowuj przykłady do szkoleń.
• Błędy znalezione już po wyjściu pracy na zewnątrz i to, kto je znalazł.
• W przypadku chatbotów: odsetek sprawdzonych odpowiedzi, które są zgodne z aktualnym regulaminem.

Gdzie to zawodzi

• Sprawdzanie staje się pieczątką. Ludzie zatwierdzają bez czytania. To skutek działania narzędzia, a nie tylko braku dyscypliny: sprawdzanie słabnie, gdy rośnie zaufanie do narzędzia. Sprawdzaj próbki zatwierdzeń i testuj osoby sprawdzające na przypadkach z celowo umieszczonymi błędami.
• Osoba sprawdzająca nie potrafi ocenić. Młodszy pracownik, który sprawdza pracę spoza swojej wiedzy, przepuści błąd napisany gładkim językiem. W angielskim wyroku aplikantka adwokacka (pupil barrister) powiedziała, że nikt nie sprawdzał żadnej jej pisemnej pracy, a poradnia prawna, która ją zaangażowała, przyznała, że nigdy nie sprawdzała przypisów pełnomocnika. Każda strona polegała na drugiej.
• AI sprawdzająca AI. We własnym eksperymencie Anthropic AI prowadziła mały sklep w biurze, a druga AI pełniła rolę jej kierownika. Kierownik miał te same słabe punkty co AI sklepu i zgadzał się na pobłażliwe prośby klientów mniej więcej osiem razy częściej, niż im odmawiał. Pomogło dopiero wymaganie, by AI sklepu sprawdzała ceny i terminy dostaw. Sprawdzanie działa tylko wtedy, gdy zawodzi w inny sposób niż to, co sprawdza.
• Sprawdzanie wszystkiego. Jeśli każda wewnętrzna notatka wymaga zatwierdzenia, zysk z AI znika, a ludzie zaczynają obchodzić zasadę. Zostaw ten krok dla tego, co wychodzi na zewnątrz, i tego, co ma znaczenie.
• Większe zaufanie do własnego narzędzia. Osiem zmyślonych orzeczeń opisanych wyżej pochodziło z systemu, który kancelaria zbudowała sama.
• Wytyczne bez kroku w procesie. Angielski sąd stwierdził, że wydanie wytycznych “on its own is insufficient” [„samo w sobie nie wystarcza”].

Według wielkości firmy

• Mikro i małe: właściciel lub doświadczony kolega czyta wszystko, co trafia do klienta. Sąd zastosował ten sam obowiązek do firmy zatrudniającej dziesięć osób.
• Średnie: wskazana osoba sprawdzająca dla każdego rodzaju wyników i wiersz na liście kontrolnej zatwierdzenia.
• Średnio-duże i duże: sprawdzanie jest wbudowane w systemy obiegu dokumentów i publikacji, a próbka zatwierdzeń jest kontrolowana. Za testowanie i monitorowanie chatbotów i automatycznych decyzji odpowiada zespół.

Przypadki firm

Firmy, które to zrobiły

• Ashurst Uczestnicy zgłaszali częste zmyślone treści we wszystkich narzędziach. Kancelaria uznała, że praca AI musi być “thoroughly and properly reviewed by appropriate experts” [„gruntownie i właściwie sprawdzona przez odpowiednich ekspertów”]. Wynik podany przez firmę
• EIST Właściciel nadal sprawdza i poprawia wyceny, zanim je zatwierdzi. Wynik podany przez firmę
• Garfield.Law Wskazani z imienia i nazwiska solicitorzy podlegający regulatorowi nadal odpowiadają za pracę kancelarii, a kancelaria ma wdrożony nadzór, ze ściślejszą kontrolą roszczeń na etapie startu. Wynik podany przez firmę
• Gilberts Chartered Accountants Wynik AI traktuje się jako pierwszą wersję roboczą i poddaje “the same scrutiny as you would to a junior team member’s work” [„takiej samej kontroli jak pracę młodszego członka zespołu”]. Wynik podany przez firmę
• Herges Stahl- und Blechbau Przy każdym przewidywaniu narzędzie pokazuje dziesięć najbardziej podobnych dawnych zleceń i ich zmierzone czasy, żeby pracownicy mogli ocenić szacunek i go zmienić. Zmierzony wynik
• Hitachi Energy Model tylko wskazał, skąd biorą się straty. Inżynierowie procesu w fabryce zaproponowali możliwe działania, sprawdzili, czy da się je wykonać, i ustalili fizyczne przyczyny. Zmierzony wynik
• Milkforbubs Zespół “closely monitoring its responses and swiftly correcting any inaccuracies” [„uważnie śledzi jego odpowiedzi i szybko poprawia wszelkie nieścisłości”]. Wynik podany przez firmę
• PSG Global Solutions AI tylko prowadziła rozmowę. Jak piszą autorzy, “all hiring decisions are made by human recruiters” [„wszystkie decyzje o zatrudnieniu podejmują rekruterzy”]. Zmierzony wynik
• Rue La La Narzędzie było uważnie obserwowane, zanim zaczęło działać samodzielnie. Nadal tylko rekomenduje ceny osobom odpowiedzialnym za asortyment, w granicach ustalonych przez sprzedawcę. Zmierzony wynik
• SAM Doradca zatwierdza ważne pisma i może poprawić to, jak AI sklasyfikowała dokument, albo zmienić przypomnienie. Wynik podany przez firmę
• Siemens O każdej płytce ostatecznie decydował pracownik. Pracownicy, którzy widzieli, na czym AI się opiera, odrzucili 96,9% jej błędnych przewidywań. Zmierzony wynik

Co się stało bez niej

• Air Canada Trybunał uznał, że linia “did not take reasonable care to ensure its chatbot was accurate” [„nie dołożyła należytej staranności, by jej chatbot podawał dokładne informacje”]. Coś poszło nie tak
• Deloitte (Australia) Błędne przypisy i błędne streszczenie sprawy sądowej trafiły do klienta w raporcie końcowym. Coś poszło nie tak
• Department of Families, Fairness and Housing (Victoria) Raport trafił do sądu z poważnym błędem. Lalkę, której używano w celach seksualnych, opisał jako zabawkę “age-appropriate” [„odpowiednią do wieku”]. Coś poszło nie tak
• DoNotPay Firma nie zatrudniła ani nie zleciła żadnemu prawnikowi sprawdzania jakości i dokładności swoich funkcji prawnych. Coś poszło nie tak
• Levidow, Levidow & Oberman P.C. Nikt nie sprawdził sześciu orzeczeń przed złożeniem pisma. Sąd stwierdził, że prawnicy pełnią “a gatekeeping role” [„rolę strażnika”] wobec tego, co składają. Coś poszło nie tak
• Morgan & Morgan Dwóch prawników podpisało pismo, nie czytając go. Sąd stwierdził, że ślady fałszywych spraw były “noticeable on the Motions’ face” [„widoczne na pierwszy rzut oka w samych wnioskach”]. Coś poszło nie tak
• Primus Solicitors Solicitor polegał na wyszukiwaniu zrobionym przez klienta i go nie sprawdził. Sąd nazwał to “a lamentable failure” [„godnym ubolewania niedopełnieniem”] podstawowego wymogu. Coś poszło nie tak
• Rite Aid Pracownicy chodzili za klientami, przeszukiwali ich i oskarżali na podstawie alertu. Sieć nie śledziła fałszywych dopasowań ani tego, co pracownicy z nimi robili. Coś poszło nie tak

Firmy, które w końcu ją przyjęły

• Butler Snow Kancelaria poinformowała sąd, że przed każdym pismem do sądu wprowadzi kontrolę, która potwierdzi, że każde powołanie istnieje, jest dokładne i trafne. Coś poszło nie tak

Źródła

1. Dell’Acqua, McFowland, Mollick, Lifshitz-Assaf, Kellogg, Rajendran, Krayer, Candelon and Lakhani (2026). Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality. Organization Science, 37(2), 403–423. Co zrobiło i co wykazało to badanie
2. Hernström, Josefsson, Sartor, Schmidt, Larsson, Hofvind, Andersson, Rosso, Hagberg and Lång (2025). Screening performance and characteristics of breast cancer detected in the Mammography Screening with Artificial Intelligence trial (MASAI): a randomised, controlled, parallel-group, non-inferiority, single-blinded, screening accuracy study. The Lancet Digital Health, 7(3), e175–e183. Co zrobiło i co wykazało to badanie
3. Vaccaro, Almaatouq and Malone (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8(12), 2293–2303. Ogranicza tę praktykę albo jej przeczy. Co zrobiło i co wykazało to badanie
4. Lee, Sarkar, Tankelevitch, Drosos, Rintel, Banks and Wilson (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems, Article 1121. Ogranicza tę praktykę albo jej przeczy. Co zrobiło i co wykazało to badanie
5. Budzyń, Romańczyk, Kitala and colleagues (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology & Hepatology, 10(10), 896–903. Ogranicza tę praktykę albo jej przeczy. Co zrobiło i co wykazało to badanie
6. R (Ayinde) v London Borough of Haringey and Al-Haroun v Qatar National Bank [2025] EWHC 1383 (Admin). High Court of England and Wales, 6 June 2025. judiciary.uk
7. European Union. AI Act, Regulation (EU) 2024/1689, Article 26 (obligations of deployers of high-risk AI systems). Text on the European Commission’s AI Act Service Desk. ai-act-service-desk.ec.europa.eu
8. Charlotin, D. AI Hallucination Cases database (counts as of 16 October 2026). damiencharlotin.com
9. Anthropic with Andon Labs (18 December 2025). Project Vend: Phase Two. A vendor's own experiment. anthropic.com
10. Advertising Standards Authority (11 June 2026). AI and Deepfakes: Four Things Advertisers Need to Know Before They Hit 'Run'. asa.org.uk
11. Insurance Business (16 September 2026). ISO's generative AI exclusion is already on thousands of CGL policies. Trade press. insurancebusinessmag.com

Powiązane praktyki

• Zaplanuj budżet na pracę, którą tworzy AI AI usuwa część pracy i dodaje inną: sprawdzanie wyników, prowadzenie zapisów, obsługę wyjątków i dbanie o narzędzia. Policz tę pracę i przypisz jej właściciela, zanim policzysz oszczędność. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba) Dowody: Powszechna praktyka Przebudowa procesów · Zastosowanie
• Dla każdego rodzaju zadania sprawdź, czy człowiek z AI wypada lepiej niż każde z nich osobno Nie zakładaj, że dodanie człowieka do AI albo AI do człowieka daje najlepszy wynik. Sprawdź to dla każdego rodzaju zadania, zanim ustalisz proces. Zrób potem · Nakład pracy: średni (tygodnie, kilka osób) Dowody: Silne Zależy od kontekstu Przebudowa procesów · Przebudowa
• Sprawdź porady AI dotyczące pieniędzy, podatków i prawa, zanim zaczniesz działać Gdy używasz narzędzia AI jako doradcy, sprawdź jego porady dotyczące pieniędzy, podatków i prawa w wiarygodnym źródle albo u specjalisty, zanim zaczniesz działać. W małej firmie nikt inny nie wyłapie błędnej odpowiedzi. Zrób potem · Nakład pracy: niski (dni, jedna osoba) Dowody: Powszechna praktyka Zasady i ryzyko · Zastosowanie
• Napisz jednostronicową politykę korzystania z AI, którą pracownicy naprawdę przeczytają Zmieść zasady dotyczące AI na jednej stronie: jakie narzędzia są dozwolone, czego nigdy nie wolno do nich wpisywać, kto sprawdza wyniki i kogo pytać. Potem wbuduj najważniejszą zasadę w samą pracę, bo sama kartka jest ignorowana. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba) Dowody: Powszechna praktyka Zasady i ryzyko · Zastosowanie
• Gdy AI się pomyli, popraw błąd szybko i otwarcie Zdecyduj już teraz, co się dzieje, gdy błąd AI wyjdzie na zewnątrz: kogo się powiadamia, kto wycofuje lub poprawia pracę i kto sprawdza, jak daleko sięga problem. W opisanych przypadkach firmy, które szybko przyznały się do błędu, potraktowano znacznie łagodniej niż te, które go broniły. Zrób potem · Nakład pracy: niski (dni, jedna osoba) Dowody: Wstępne Zasady i ryzyko · Utrzymanie