AI-first company

Regeln und Risiken · Einführen

Versprechen Sie nur, was Ihre KI nachweislich kann

Wenn Sie Kunden sagen, dass Ihr Produkt oder Ihre Dienstleistung KI nutzt oder wie gut sie funktioniert, sollten Sie die Belege haben, bevor Sie es sagen. Aufsichtsbehörden behandeln „KI-gestützt“ und „98 % genau“ wie jede andere Tatsachenbehauptung.

Von
Zuletzt geprüft
Korrekturen
Fehler melden
Wann Als Nächstes. Sobald Ihre ersten KI-Anwendungen laufen.
Aufwand Gering (Tage, eine Person)
Evidenz Vorläufig

Sechs dokumentierte Fälle von Aufsichtsbehörden, alle in den USA, enden gleich, mit genanntem Ausgang. Keine Studie vergleicht Unternehmen, die ihre Aussagen prüfen, mit solchen, die es nicht tun.

Passt für
Branchen Alle Branchen
Im Leitfaden Was scheitert

Worum es geht

Prüfen Sie Ihr eigenes Marketing. Bevor Ihr Unternehmen „wir nutzen KI“, „KI-gestützt“, „98 % genau“ oder „erledigt die Arbeit eines Profis“ sagt, lassen Sie jemanden zwei Dinge bestätigen: Die Aussage stimmt heute, und das Unternehmen hat die Belege.

Das gilt für jede Firma, die ein Produkt oder eine Dienstleistung mit KI verkauft, und für jede Firma, die in ihrem Verkaufsmaterial KI erwähnt.

Was die Evidenz zeigt

Sechs Fälle von zwei Aufsichtsbehörden in den USA sind die Grundlage dieses Rats. Keine Studie hat ihn geprüft.

  • Behaupten, KI zu nutzen, ohne es zu tun. Zwei Anlageberater beschrieben KI, die sie nicht hatten. Einer sagte, seine KI nutze Kundendaten. Der andere nannte sich “first regulated AI financial advisor” [„erster regulierter KI-Finanzberater“]. Sie mussten 225.000 $ und 175.000 $ Strafe zahlen.

  • Eine Genauigkeitszahl ohne passenden Test. Ein Anbieter bewarb seinen Detektor für KI-Texte mit 98 % Genauigkeit. Die Behörde sagte, unabhängige Tests hätten bei allgemeinen Texten 53 % ergeben.

  • „So gut wie ein Profi.“ Ein Dienst, verkauft als “robot lawyer” [„Roboteranwalt“], war nie mit der Arbeit eines Anwalts verglichen worden. Er zahlte 193.000 $ und musste frühere Abonnenten benachrichtigen.

  • Ein Versprechen der Konformität. Ein Anbieter behauptete, sein KI-Zusatzprogramm könne jede Website barrierefrei machen. Er zahlte 1 Million $. Die Behörde ging auch gegen bezahlte Bewertungen vor, die als unabhängig ausgegeben wurden.

  • „KI“, die meist einen Menschen brauchte. Presto Automation sagte Anlegern, seine Sprach-KI mache Menschen bei der Annahme von Drive-in-Bestellungen überflüssig. Die Börsenaufsicht stellte fest, dass bei der “vast majority” [„großen Mehrheit“] der Bestellungen über das eigene System von Presto ein Mensch eingreifen musste. Presto stimmte einer Unterlassungsanordnung zu und zahlte keine Strafe, weil es kooperierte.

  • „KI, die Personal ersetzt“, verkauft an kleine Unternehmen. Die Verbraucherschutzbehörde sagt, Air AI habe “conversational AI” [„dialogfähige KI“] vermarktet, die angeblich Beschäftigte im Kundenservice ersetzen könne, und einige Käufer hätten bis zu 250.000 $ verloren. Nach einem im März 2026 angekündigten Vergleichsvorschlag dürfen die Eigentümer keine Geschäftsgelegenheiten mehr vermarkten, und ein Urteil über 18 Millionen $ ist größtenteils ausgesetzt, weil sie nicht zahlen können. Das sind Vorwürfe; im Vergleich wird nichts eingeräumt.

In allen sechs Fällen nutzte die Behörde Regeln, die es schon gab: für Werbung, für Verbraucherschutz oder für das, was Unternehmen Anlegern sagen. Der Vorsitzende der Börsenaufsicht nannte solche Übertreibungen bei KI “AI washing” [„KI-Schönfärberei“].

So gehen Sie vor

  1. Sammeln Sie jede öffentliche Aussage zu KI. Website, Broschüren, Verkaufspräsentationen, soziale Medien, Pressemitteilungen, Ausschreibungsunterlagen, Pflichtmeldungen an Behörden.
  2. Notieren Sie zu jeder Aussage den Beleg. Welcher Test, mit welchem Material, wann und von wem? Lautet die Antwort „keiner“, streichen Sie die Aussage oder machen Sie den Test.
  3. Bringen Sie Aussage und Test in Einklang. „98 % genau“ stimmt nur für die Art Material, die Sie getestet haben. Sagen Sie, welches das war, oder nennen Sie die Zahl nicht.
  4. Vermeiden Sie absolute Wörter. „Jede“, „immer“, „voll konform“ und „ersetzt einen Anwalt“ sind Versprechen für jeden Fall. Ein einziges Gegenbeispiel macht sie falsch.
  5. Sagen Sie, was ein Mensch weiterhin tut. Wenn Beschäftigte die Ergebnisse der KI prüfen, sagen Sie es. Die Aussage stimmt, und Kunden schätzen sie.
  6. Kennzeichnen Sie bezahlte Bewertungen und Empfehlungen. Legen Sie jede Zahlung oder andere Verbindung zum Verfasser offen.
  7. Bewahren Sie die Belege auf, mit Datum. Eine der oben genannten Anordnungen der Behörden verlangt genau das.
  8. Prüfen Sie erneut, wenn sich das Produkt ändert. Eine Aussage, die für die Version des Vorjahres stimmte, stimmt für diese vielleicht nicht.

Was Sie messen sollten

  • Den Anteil der KI-Aussagen im aktuellen Material, zu denen datierte Belege vorliegen.
  • Das Datum der letzten vollständigen Prüfung des Marketingmaterials.

Woran es scheitert

  • Das Marketing schreibt dem Produkt voraus. Die Aussage beschreibt, was das Produkt können wird, nicht, was es heute kann. Lassen Sie jede KI-Aussage vor der Veröffentlichung von jemandem lesen, der das Produkt kennt.
  • Alte Seiten bleiben online. Die Aussagen eines Beraters zogen sich über vier Jahre, in Pflichtmeldungen, einer Pressemitteilung und auf seiner Website.
  • Geliehene Zahlen. Die Genauigkeitszahl eines Lieferanten wird als eigene wiederholt. Testen Sie sie zuerst mit Ihrem Material. Siehe Verlangen Sie Belege von KI-Anbietern.

Nach Unternehmensgröße

  • Kleinst- und Kleinunternehmen: Lesen Sie Ihre eigene Website mit dieser Frage: Könnte ich einer Aufsichtsbehörde den Test hinter jedem Satz über KI zeigen?
  • Mittlere Unternehmen: Eine benannte Person gibt jede KI-Aussage vor der Veröffentlichung frei.
  • Gehobener Mittelstand und Großunternehmen: KI-Aussagen durchlaufen dieselbe Prüfung wie Aussagen zu Finanzen und Produkten, und die Belege werden aufbewahrt.

Firmenfälle

Was ohne sie passiert ist

Quellen

Keine veröffentlichte Studie prüft diese Praktik direkt, deshalb ist sie mit Vorläufig bewertet. Die Bewertung stützt sich auf die Firmenfälle oben und auf die Quellen unten.

  1. US Federal Trade Commission (25 September 2024). FTC announces crackdown on deceptive AI claims and schemes. Press release. ftc.gov
  2. US Securities and Exchange Commission (18 March 2024). SEC charges two investment advisers with making false and misleading statements about their use of artificial intelligence. sec.gov
  3. US Securities and Exchange Commission. In the Matter of Presto Automation Inc., File No. 3-22413, Release 33-11352 (January 2025). sec.gov
  4. US Federal Trade Commission (24 March 2026). Press release on the proposed settlement with Air AI and its owners. ftc.gov