Lassen Sie die KI zeigen, worauf ihre Antwort beruht

Worum es geht

Ändern Sie, was eine Person sieht, wenn ein KI-Werkzeug eine Antwort gibt. Lassen Sie das Werkzeug neben jeder Antwort zeigen, worauf sie beruht, in einer Form, die die Person in Sekunden prüfen kann. Bei einem Bild ist das der Bereich, auf den die KI reagiert hat. Bei einer Schätzung sind es die früheren Fälle, denen die Schätzung ähnelt. Bei einer schriftlichen Antwort ist es die Stelle im Quelldokument.

Viele KI-Werkzeuge geben einer Person eine nackte Antwort: einen Wert, eine Warnung, eine Schätzung, einen empfohlenen Preis. Die Person muss die Antwort dann annehmen oder ablehnen, ohne einen Anhaltspunkt zu haben.

Was die Evidenz zeigt

Ein nackter Wert machte erfahrene Prüfer schlechter. In einem Experiment in einem Siemens-Werk prüften 48 Beschäftigte Leiterplatten mit einer KI-Hilfe. Wer nur den Wert der KI sah, lag zu 88,6 % richtig. Die KI allein lag zu 95,6 % richtig. Die Beschäftigten, die nur den Wert sahen, setzten sich 3,6-mal so oft über die KI hinweg, wenn sie recht hatte.
Dieselbe KI mit einem Bild machte sie besser. Beschäftigte, die zusätzlich sahen, wo die KI ein Problem gefunden hatte, lagen zu 96,3 % richtig. Sie erkannten 93,0 % der fehlerhaften Leiterplatten, gegenüber 82,0 % in der Gruppe, die nur den Wert sah. Sie setzten sich über 96,9 % der falschen Antworten der KI hinweg. Die Fallseite hat die Einzelheiten.
Es galt auch für eine zweite Gruppe. In derselben Studie lagen 113 Radiologinnen und Radiologen beim Befunden von Röntgenbildern der Brust mit dem Bild zu 83,8 % richtig und mit dem Wert allein zu 79,1 %.
Ähnliche frühere Aufträge neben jeder Schätzung. Ein Stahlbauer baute ein KI-Werkzeug, das Fertigungszeiten für Angebote schätzt. Zu jeder Schätzung zeigt es die zehn ähnlichsten früheren Aufträge mit ihren gemessenen Zeiten. Die Beschäftigten sehen sofort, ob die Schätzung falsch aussieht, und können sie ändern.
Eine Antwort, mit der Ingenieure arbeiten konnten. In einem Chipwerk nutzten Forschende eine Methode, die zeigt, wie viel jeder Fertigungsschritt zur Vorhersage des KI-Modells beitrug. Sie benannte Schritte und Maschinen. Fachleute der Produktion fanden dann die physikalischen Ursachen. Ein Test der beiden Änderungen, auf die das Modell hinwies, senkte den Verlust an Chips um 21,7 %.
Markierte Bereiche in einem Screening-Versuch. In einem schwedischen Versuch zum Brustkrebs-Screening mit 105.934 Frauen markierte die KI auf jeder Aufnahme verdächtige Bereiche für die Radiologinnen und Radiologen. Sie entschied auch, welche Aufnahmen eine Person und welche zwei Personen befundeten. Die Gruppe mit KI-Unterstützung fand 6,4 Krebserkrankungen pro 1.000 Frauen, gegenüber 5,0 bei der üblichen Befundung durch zwei Radiologen, ohne mehr Fehlalarme und mit 44,2 % weniger Befundungsarbeit. Der Versuch testete die ganze Aufstellung und zeigt daher nicht, was die markierten Bereiche allein beitrugen.

Ein Ergebnis zeigt in die andere Richtung. Eine Studie, die 106 Experimente zusammenfasste, prüfte, ob eine Erklärung der KI-Ergebnisse veränderte, wie gut Mensch und KI zusammen abschnitten. Im Durchschnitt machte die Erklärung keinen Unterschied. Es kommt also auf die Art der Erklärung an, und auf die Aufgabe. Testen Sie es an Ihrer eigenen Arbeit, wie Schritt 5 beschreibt.

So gehen Sie vor

Listen Sie auf, wo Beschäftigte auf eine nackte Antwort hin handeln. Gehen Sie Ihre KI-Werkzeuge durch und notieren Sie jede Stelle, an der eine Person einen Wert, eine Warnung, eine Schätzung oder eine Empfehlung ohne Begründung daneben sieht.
Legen Sie fest, wie die Grundlage aussehen soll. Passen Sie sie an die Aufgabe an.
- Bilder: der Bereich, auf den die KI reagiert hat, im Bild markiert. Das sahen die Beschäftigten im Werk.
- Schätzungen von Zeit oder Kosten: die ähnlichsten früheren Fälle, mit dem, was tatsächlich geschah. Der Stahlbauer zeigt zehn.
- Analyse eines Prozesses: die Eingangsgrößen, die am meisten zählten, in den Begriffen Ihrer Beschäftigten benannt. Die Ingenieure im Chipwerk bekamen Schritte und Maschinen.
- Schriftliche Antworten: die Stelle im Quelldokument, damit die lesende Person sie öffnen kann.
Lassen Sie sich vor dem Kauf zeigen, was auf dem Bildschirm Ihrer Beschäftigten erscheint. Lassen Sie den Anbieter für eine Antwort vorführen, was Ihre Beschäftigten sehen werden. Zeigt der Bildschirm nur eine Zahl, fragen Sie, was das Werkzeug sonst zeigen kann. Siehe Verlangen Sie Belege von KI-Anbietern.
Sagen Sie den Beschäftigten, dass die KI falschliegen kann. Den Beschäftigten im Werk wurde das vor Beginn gesagt. Sagen Sie, dass die Grundlage da ist, um geprüft zu werden.
Testen Sie beide Anzeigen an Ihrer eigenen Aufgabe. Nehmen Sie eine Reihe echter Beispiele, bei denen Sie die richtige Antwort kennen. Geben Sie der Hälfte Ihrer Beschäftigten die nackte Antwort und der anderen Hälfte die Antwort mit Grundlage. Vergleichen Sie beide Gruppen mit der KI allein. Das Werk machte das mit 48 Personen und 200 Bildern in zehn Tagen.
Lassen Sie die Beschäftigten die Antwort ändern. Die Beschäftigten des Stahlbauers können jede Schätzung anpassen. Halten Sie fest, wann sie es tun und ob sie recht hatten.
Schlagen Sie nach, was die KI als Quelle nennt. Eine Quelle, die die KI nennt, ist nur dann eine Grundlage, wenn es sie gibt. Siehe Lassen Sie einen Menschen prüfen.

Was Sie messen sollten

Den Anteil der falschen Antworten der KI, über die sich die Beschäftigten hinwegsetzen.
Den Anteil ihrer richtigen Antworten, über die sich die Beschäftigten hinwegsetzen.
Die Genauigkeit der Beschäftigten mit dem Werkzeug, verglichen mit der KI allein, bei Beispielen, deren richtige Antwort Sie kennen.

Woran es scheitert

Es hilft nicht immer, Fehler zu erkennen. In der Studie oben setzten sich Radiologen, die das Bild sahen, über 50,8 % der falschen Antworten der KI hinweg. Radiologen, die nur den Wert sahen, über 57,7 %. Ihr Gewinn kam von weniger Fehlalarmen.
Die Grundlage ist erfunden. KI-Werkzeuge, die Text schreiben, können Quellen nennen, die es nicht gibt. Das eigene KI-Werkzeug einer Kanzlei zitierte neun Fälle, und acht davon gab es nicht. Eine Antwort ist, die Aufgabe zu verbieten. Als die englische Solicitors Regulation Authority im Mai 2025 Garfield.Law zuließ, eine Kanzlei, deren Leistungen von KI erbracht werden, war eine der Auflagen, dass die KI keine Rechtsprechung vorschlagen darf.
Die Grundlage ist unlesbar. Ein markiertes Bild oder zehn ähnliche Aufträge lassen sich auf einen Blick prüfen. Eine Tabelle technischer Werte nicht. Zeigen Sie sie in den Begriffen, mit denen die Person arbeitet.
Niemand schaut hin. Wenn die Beschäftigten keine Zeit zum Prüfen haben, ändert die Anzeige nichts. Planen Sie die Sekunden dafür ein.

Nach Unternehmensgröße

Kleinst- und Kleinunternehmen: Sie werden meist Werkzeuge kaufen. Wählen Sie das, das seine Grundlage zeigt, und nutzen Sie Schritt 3, wenn Sie Anbieter vergleichen.
Mittlere Unternehmen: Führen Sie den Test aus Schritt 5 mit einigen Dutzend Beispielen durch, bevor Sie den Prozess festlegen.
Gehobener Mittelstand und Großunternehmen: Schreiben Sie die Anforderung in den Einkauf und in alles, was Sie selbst entwickeln, und verfolgen Sie für jedes Werkzeug die beiden Werte zum Hinwegsetzen.

Firmenfälle

Unternehmen, die das getan haben

Quellen

Senoner, Schallmoser, Kratzwald, Feuerriegel and Netland (2024). Explainable AI improves task performance in human–AI collaboration. Scientific Reports, 14, 31150. Was diese Studie untersucht und gefunden hat
Vaccaro, Almaatouq and Malone (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour, 8(12), 2293–2303. Schränkt diese Praktik ein oder widerspricht ihr. Was diese Studie untersucht und gefunden hat
Hernström, Josefsson, Lång and others (2025). Screening performance and characteristics of breast cancer detected in the MASAI trial. The Lancet Digital Health. doi.org
Solicitors Regulation Authority (May 2025). Authorisation of Garfield.Law, a law firm whose services are delivered by AI. sra.org.uk