Na czym to polega
Zmień to, co widzi człowiek, gdy narzędzie AI daje odpowiedź. Niech narzędzie pokazuje obok każdej odpowiedzi, na czym się ona opiera, w formie, którą człowiek sprawdzi w kilka sekund. Przy obrazie podstawą jest obszar, na który zareagowała AI. Przy szacunku są nią dawne przypadki, do których szacunek jest podobny. Przy odpowiedzi pisemnej jest nią fragment dokumentu źródłowego.
Wiele narzędzi AI daje człowiekowi samą odpowiedź: wynik punktowy, ostrzeżenie, szacunek, zalecaną cenę. Człowiek musi wtedy przyjąć lub odrzucić odpowiedź, nie mając się na czym oprzeć.
Co pokazują dowody
- Sam wynik punktowy pogorszył pracę doświadczonych kontrolerów. W eksperymencie w fabryce Siemensa 48 pracowników sprawdzało płytki drukowane z pomocą AI. Ci, którzy widzieli tylko wynik AI, mieli dokładność 88,6%. Sama AI miała dokładność 95,6%. Pracownicy widzący tylko wynik 3,6 razy częściej odrzucali decyzję AI, gdy była poprawna.
- Ta sama AI z obrazem poprawiła ich pracę. Pracownicy, którzy widzieli też, gdzie AI znalazła problem, mieli dokładność 96,3%. Wyłapali 93,0% wadliwych płytek, wobec 82,0% w grupie widzącej tylko wynik. Odrzucili 96,9% błędnych odpowiedzi AI. Szczegóły są na stronie przypadku.
- Sprawdziło się to w drugiej grupie. W tym samym badaniu 113 radiologów oceniających zdjęcia rentgenowskie klatki piersiowej miało dokładność 83,8% z obrazem i 79,1% z samym wynikiem.
- Podobne dawne zlecenia obok każdego szacunku. Producent konstrukcji stalowych zbudował narzędzie AI, które szacuje czas produkcji na potrzeby ofert. Przy każdym szacunku pokazuje dziesięć najbardziej podobnych dawnych zleceń i ich zmierzone czasy. Pracownicy od razu widzą, czy szacunek wygląda na błędny, i mogą go zmienić.
- Odpowiedź, na podstawie której inżynierowie mogli działać. W zakładzie produkującym chipy badacze użyli metody, która pokazuje, w jakim stopniu każdy etap produkcji wpłynął na prognozę modelu AI. Metoda wskazała etapy i maszyny. Specjaliści od produkcji znaleźli potem fizyczne przyczyny. Test dwóch zmian, które wskazał model, zmniejszył straty chipów o 21,7%.
- Zaznaczone obszary w badaniu przesiewowym. W szwedzkim badaniu przesiewowym raka piersi z udziałem 105 934 kobiet AI zaznaczała radiologom podejrzane obszary na każdym zdjęciu. Decydowała też, które zdjęcia ocenia jeden radiolog, a które dwóch. Grupa wspierana przez AI wykryła 6,4 nowotworu na 1000 kobiet, wobec 5,0 przy standardowej ocenie przez dwóch radiologów, bez wzrostu liczby fałszywych alarmów i przy pracy przy ocenie zdjęć mniejszej o 44,2%. Badanie sprawdzało cały układ, więc nie pokazuje, co same zaznaczone obszary wniosły.
Jeden wynik wskazuje odwrotny kierunek. Badanie, które połączyło 106 eksperymentów, sprawdziło, czy wyjaśnienie wyniku AI zmienia to, jak dobrze człowiek i AI radzą sobie razem. Średnio wyjaśnienie nic nie zmieniało. Liczy się więc rodzaj wyjaśnienia, a także zadanie. Sprawdź to na własnej pracy, tak jak opisuje krok 5.
Jak to zrobić
- Wypisz miejsca, w których pracownicy działają na podstawie samej odpowiedzi. Przejrzyj swoje narzędzia AI i zapisz każde miejsce, w którym człowiek widzi wynik punktowy, ostrzeżenie, szacunek lub zalecenie bez uzasadnienia obok.
- Zdecyduj, jak ma wyglądać podstawa odpowiedzi. Dopasuj ją do zadania.
- Obrazy: obszar, na który zareagowała AI, zaznaczony na obrazie. To widzieli pracownicy fabryki.
- Szacunki czasu lub kosztu: najbardziej podobne dawne przypadki, z tym, co się w nich naprawdę wydarzyło. Producent konstrukcji stalowych pokazuje dziesięć.
- Analiza procesu: dane wejściowe, które ważyły najwięcej, nazwane tak, jak mówią o nich twoi pracownicy. Inżynierowie z zakładu produkującego chipy dostali etapy i maszyny.
- Odpowiedzi pisemne: fragment dokumentu źródłowego, tak by czytelnik mógł go otworzyć.
- Zanim kupisz, poproś o pokazanie ekranu, który zobaczą twoi pracownicy. Niech dostawca pokaże, na co pracownicy będą patrzeć przy jednej odpowiedzi. Jeśli na ekranie jest sama liczba, zapytaj, co jeszcze narzędzie potrafi pokazać. Zob. poproś dostawców AI o dowody.
- Powiedz pracownikom, że AI może się mylić. Pracownikom fabryki powiedziano to przed rozpoczęciem. Powiedz, że podstawa odpowiedzi jest po to, by ją sprawdzać.
- Sprawdź oba sposoby wyświetlania na własnym zadaniu. Weź zestaw prawdziwych przykładów, w których znasz poprawną odpowiedź. Połowie pracowników daj samą odpowiedź, a połowie odpowiedź z podstawą. Porównaj obie grupy z samą AI. Fabryka zrobiła to z 48 osobami i 200 obrazami w dziesięć dni.
- Pozwól pracownikom zmieniać odpowiedź. Pracownicy producenta konstrukcji stalowych mogą poprawić każdy szacunek. Zapisuj, kiedy to robią i czy mieli rację.
- Sprawdzaj to, na co powołuje się AI. Źródło wskazane przez AI jest podstawą tylko wtedy, gdy istnieje. Zob. niech człowiek sprawdza.
Co mierzyć
- Odsetek błędnych odpowiedzi AI, które pracownicy odrzucają.
- Odsetek poprawnych odpowiedzi AI, które pracownicy odrzucają.
- Dokładność pracowników korzystających z narzędzia w porównaniu z samą AI, na przykładach, w których znasz poprawną odpowiedź.
Gdzie to zawodzi
- Nie zawsze pomaga wyłapywać błędy. W opisanym wyżej badaniu radiolodzy, którzy widzieli obraz, odrzucili 50,8% błędnych odpowiedzi AI. Radiolodzy z samym wynikiem odrzucili 57,7%. Ich zysk wziął się z mniejszej liczby fałszywych alarmów.
- Podstawa jest zmyślona. Narzędzia AI, które piszą tekst, mogą wskazywać źródła, które nie istnieją. Własne narzędzie AI kancelarii prawnej powołało się na dziewięć orzeczeń, a osiem z nich nie istniało. Jednym z rozwiązań jest zakaz takiego zadania. Gdy w maju 2025 roku angielski Solicitors Regulation Authority dopuścił działalność Garfield.Law, kancelarii, której usługi świadczy AI, jednym z warunków było to, że AI nie może proponować orzecznictwa.
- Podstawy nie da się odczytać. Zaznaczony obraz albo dziesięć podobnych zleceń da się sprawdzić jednym spojrzeniem. Tabeli wartości technicznych już nie. Pokazuj podstawę w kategoriach, w których pracuje człowiek.
- Nikt nie patrzy. Jeśli pracownicy nie mają czasu na sprawdzanie, sposób wyświetlania nic nie zmienia. Zostaw im te kilka sekund.
Według wielkości firmy
- Mikro i małe: będziesz głównie kupować narzędzia. Wybieraj to, które pokazuje swoją podstawę, i stosuj krok 3, gdy porównujesz dostawców.
- Średnie: przeprowadź test z kroku 5 na kilkudziesięciu przykładach, zanim ustalisz proces.
- Średnio-duże i duże: wpisz ten wymóg do zasad zakupów i do wszystkiego, co budujecie sami, i śledź oba wskaźniki odrzuceń dla każdego narzędzia.
Przypadki firm
Firmy, które to zrobiły
- Herges Stahl- und Blechbau Przy każdym przewidywaniu narzędzie pokazuje z bazy dziesięć najbardziej podobnych dawnych zleceń z ich zmierzonymi czasami.
- Hitachi Energy Badacze użyli metody, która pokazuje, ile każdy etap procesu wniósł do przewidywania modelu, a eksperci od produkcji wykorzystali to do znalezienia fizycznych przyczyn.
- Siemens Połowa pracowników widziała wynik AI z obrazem, na którym zaznaczono, gdzie znalazła problem. Byli dokładniejsi niż pracownicy, którzy widzieli sam wynik, a większość z nich wypadła lepiej niż sama AI.
Źródła
- Senoner, Schallmoser, Kratzwald, Feuerriegel and Netland (2024). Explainable AI improves task performance in human–AI collaboration. Scientific Reports, 14, 31150. Co zrobiło i co wykazało to badanie
- Vaccaro, Almaatouq and Malone (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8(12), 2293–2303. Ogranicza tę praktykę albo jej przeczy. Co zrobiło i co wykazało to badanie
- Hernström, Josefsson, Lång and others (2025). Screening performance and characteristics of breast cancer detected in the MASAI trial. The Lancet Digital Health. doi.org
- Solicitors Regulation Authority (May 2025). Authorisation of Garfield.Law, a law firm whose services are delivered by AI. sra.org.uk
Powiązane praktyki
- Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne Zanim wynik AI wyjdzie poza firmę albo posłuży do decyzji, wskazana osoba sprawdza go z prawdziwymi źródłami i zatwierdza. Niech to sprawdzenie będzie krokiem w procesie, z zarezerwowanym na nie czasem. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób)
- Dla każdego rodzaju zadania sprawdź, czy człowiek z AI wypada lepiej niż każde z nich osobno Nie zakładaj, że dodanie człowieka do AI albo AI do człowieka daje najlepszy wynik. Sprawdź to dla każdego rodzaju zadania, zanim ustalisz proces. Zrób potem · Nakład pracy: średni (tygodnie, kilka osób)
- Zanim kupisz, poproś dostawcę AI o dowody i przetestuj narzędzie na własnym materiale Nie przyjmuj na wiarę liczby, którą dostawca AI podaje jako dokładność narzędzia, ani obietnicy „pełnej zgodności z przepisami”. Zapytaj, jak i na czym to sprawdzono, przeprowadź mały test na własnym materiale i sprawdź warunki dotyczące twoich danych i wyjścia z umowy. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób)