Was am häufigsten fehlte
Jede Fallseite nennt die Praktiken, die den Fehler verhindert oder kleiner gemacht hätten. Diese fehlten in den 17 Fällen am häufigsten.
- Lassen Sie einen Menschen alles prüfen, was an Kunden geht oder rechtliches Gewicht hat: fehlte in 8 von 17 Fällen
- Versprechen Sie nur, was Ihre KI nachweislich kann: fehlte in 6 von 17 Fällen
- Verlangen Sie vor dem Kauf Belege von KI-Anbietern, und testen Sie mit Ihrem eigenen Material: fehlte in 5 von 17 Fällen
- Kennen Sie die Regeln, die für Ihren KI-Einsatz schon gelten: fehlte in 5 von 17 Fällen
- Planen Sie Budget für die Arbeit ein, die KI erzeugt: fehlte in 4 von 17 Fällen
- Wenn KI-Ergebnisse falsch sind, korrigieren Sie schnell und offen: fehlte in 3 von 17 Fällen
Erfundene Zitate, die niemand prüfte
Anwälte und ein Beratungsunternehmen reichten Arbeiten ein, die falsche oder nicht existierende Urteile oder Quellen zitierten. Die Fallseiten zeigen, wer die Arbeit unterschrieb und was es kostete.
- Levidow, Levidow & Oberman: Geldstrafe nach Schriftsätzen mit Fällen, die ChatGPT erfunden hatte Ein Anwalt nutzte ChatGPT für juristische Recherche und reichte sechs Gerichtsentscheidungen ein, die es nicht gab. Das Gericht verhängte eine Geldstrafe gegen die Kanzlei und zwei ihrer Anwälte. Der Richter sagte, das Problem sei nicht die Nutzung von KI gewesen, sondern die fehlende Prüfung.
- Morgan & Morgan: Acht erfundene Urteile aus dem eigenen KI-Werkzeug der Kanzlei, unterschrieben von drei Anwälten Ein Anwalt bat das eigene KI-Werkzeug seiner Kanzlei, einem Schriftsatz Rechtsprechung hinzuzufügen. Acht der neun zitierten Urteile gab es nicht. Zwei weitere Anwälte unterschrieben, ohne zu lesen. Die Kanzlei hatte ihre Beschäftigten geschult und baute danach eine Warnung in das Werkzeug ein.
- Butler Snow: eine Kanzlei mit KI-Richtlinie und ein Partner, der sich nicht daran hielt Die Richtlinie der Kanzlei verlangte eine schriftliche Freigabe, bevor ChatGPT für juristische Recherche genutzt wird. Ein Partner nutzte es ohne Freigabe und reichte fünf Fundstellen ein, die es erfunden hatte. Das Gericht zog drei Anwälte vom Fall ab. Die Kanzlei bezahlte eine Prüfung von 2.400 Fundstellen.
- Primus Solicitors: 18 Urteilszitate, die es nicht gab, aus der KI-Recherche eines Mandanten Ein Anwalt einer kleinen Kanzlei reichte eine Erklärung mit 45 zitierten Urteilen ein. Achtzehn dieser Urteile gab es nicht. Sein Mandant hatte die Recherche mit öffentlichen KI-Werkzeugen erstellt, und niemand in der Kanzlei prüfte sie. Das Gericht meldete den Anwalt seiner Aufsichtsbehörde.
- Deloitte Australia: ein Regierungsbericht, neu herausgegeben wegen falscher Quellenangaben Ein Bericht von Deloitte für ein australisches Ministerium musste neu herausgegeben werden, um Quellenangaben und die Zusammenfassung eines Gerichtsfalls zu korrigieren. Die korrigierte Fassung legte die Nutzung eines generativen KI-Werkzeugs offen. Der Bericht sagt nicht, dass KI die Fehler verursacht hat.
KI-Versprechen, die Behörden beanstandeten
Diese Unternehmen verkauften oder bewarben KI, die laut einer US-Behörde nicht leistete, was sie behaupteten. Die Fallseiten nennen, was die Behörde feststellte und was das Unternehmen zahlte oder zusagte.
- DoNotPay: ein „Roboter-Anwalt“, der nie mit einem Anwalt verglichen wurde DoNotPay sagte Kunden, seine KI könne die Arbeit eines Anwalts erledigen. Die US-Verbraucherschutzbehörde sagte, die Firma habe nie geprüft, ob das stimmt, und keine Anwälte zur Kontrolle beschäftigt. Sie zahlte $193.000 und musste frühere Abonnenten über die Grenzen informieren.
- accessiBe: ein KI-Plug-in, das jede Website barrierefrei machen sollte, und eine Zahlung von $1 Million accessiBe verkaufte Website-Betreibern ein KI-Plug-in und sagte, es mache jede Website barrierefrei nach den gängigen Standards. Die US-Verbraucherschutzbehörde sagte, das stimme nicht, und lobende Bewertungen seien bezahlt gewesen. Das Unternehmen zahlte $1 Million.
- Workado: Ein KI-Detektor, beworben mit 98 % Genauigkeit, kam im Test auf 53 % Workado verkaufte ein Werkzeug, das von KI geschriebene Texte von menschlichen unterscheiden soll, und bewarb es als zu 98 % genau. Die US-Verbraucherschutzbehörde sagte, unabhängige Tests hätten bei allgemeinen Texten 53 % ergeben. Käufer hatten nur das Wort des Anbieters.
- Delphia und Global Predictions: Strafen für KI, die sie gar nicht hatten Zwei Anlageberater warben mit KI, die sie nicht hatten. Einer sagte, seine KI lerne aus Kundendaten. Der andere nannte sich den ersten regulierten KI-Finanzberater. Die US-Wertpapieraufsicht verhängte Strafen von $225.000 und $175.000.
- Presto Automation: Die US-Aufsicht fand, dass die meisten „KI“-Bestellungen am Drive-in einen Menschen brauchten Presto verkaufte Restaurants eine Sprach-KI für Bestellungen am Drive-in und sagte Anlegern, sie mache die Bestellannahme durch Menschen überflüssig. Die US-Wertpapieraufsicht fand, dass Menschen an anderen Standorten, vor allem auf den Philippinen und in Indien, den weitaus größten Teil der Bestellungen eingaben. Presto schloss einen Vergleich, ohne die Feststellungen einzuräumen oder zu bestreiten.
- Air AI: Die US-Behörde sagt, kleinen Firmen sei „KI, die Personal ersetzt“ verkauft worden, mit Verlusten bis $250.000 Air AI verkaufte Inhabern kleiner Unternehmen “conversational AI” [„dialogfähige KI“], die angeblich Servicepersonal ersetzen könne, mit dem Versprechen, dass sich das Geld wieder einspielt. Die US-Verbraucherschutzbehörde wirft vor, dass Käufer bis zu $250.000 pro Person verloren und versprochene Erstattungen selten gezahlt wurden. Nach einem vorgeschlagenen Vergleich dürfen die Inhaber keine Geschäftsmodelle mehr vermarkten.
KI im Kontakt mit Kunden
Ein Chatbot gab einem Kunden eine falsche Auskunft. Gesichtserkennung in Läden erfasste Kunden und markierte einige von ihnen zu Unrecht. Ein Gericht oder eine Behörde entschied gegen jedes Unternehmen, zumindest teilweise.
- Air Canada: haftbar für das, was der Chatbot auf der Website einem Kunden sagte Der Chatbot auf der Website von Air Canada gab einem Kunden falsche Auskunft über Erstattungen. Ein kanadisches Schiedsgericht verurteilte die Airline zur Zahlung. Es wies das Argument zurück, das Unternehmen sei für seinen Chatbot nicht verantwortlich.
- Rite Aid: Fünf Jahre Verbot für Gesichtserkennung, nachdem die Kette sie ungeprüft gekauft hatte Rite Aid setzte Gesichtserkennung ein, um mutmaßliche Ladendiebe zu erkennen. Die US-Verbraucherschutzbehörde sagte, die Kette habe ihre Anbieter nie gefragt, wie genau das System ist, es nie geprüft und die Beschäftigten nicht geschult. Kunden wurden zu Unrecht beschuldigt. Die Kette darf die Technik fünf Jahre lang nicht nutzen.
- Bunnings: Gesichtserkennung bei jedem Kunden in 63 Filialen, und was Behörde und Tribunal entschieden Bunnings scannte das Gesicht jeder Person, die eine von 63 Filialen betrat, um Menschen zu erkennen, die die Kette wegen Straftaten oder Gewalt markiert hatte. Die Datenschutzbehörde stellte einen Gesetzesverstoß fest. Ein Tribunal entschied später, dass die Kette die Technik gegen schwere Kriminalität im Laden einsetzen durfte. Es bestätigte aber, dass sie die Kunden nicht richtig informiert hatte und vorher eine formale, dokumentierte Risikobewertung hätte machen müssen.
Personendaten in einem öffentlichen Chatbot
Beschäftigte zweier australischer Behörden gaben persönliche Daten von Bürgern in ChatGPT ein. Die eine Behörde hatte das Werkzeug nicht freigegeben. Die andere hatte gar keine Regeln dafür. Danach sperrte die erste solche Uploads, und eine Aufsichtsbehörde wies die zweite an, die Werkzeuge zu sperren.
- NSW Reconstruction Authority: Eine Aushilfskraft lud Daten von 2.031 Menschen in ChatGPT hoch Eine befristet beschäftigte Person lud eine Tabelle mit Antragstellern der Hochwasserhilfe in ChatGPT hoch, das die Behörde nicht freigegeben hatte. Sie enthielt persönliche und Gesundheitsdaten von 2.031 Menschen. Danach schrieb die Behörde Regeln zu KI, verschärfte die Schulung und sperrte solche Uploads.
- Kinderschutz in Victoria: Eine Fachkraft gab Falldetails in ChatGPT ein, und die Aufsichtsbehörde ließ die Werkzeuge sperren Eine Fachkraft im Kinderschutz gab persönliche Daten einer Familie in ChatGPT ein, um einen Bericht für das Gericht zu entwerfen. Der Bericht enthielt Fehler. Die Datenschutzbehörde stellte fest, dass das Ministerium keine Regeln, keine Schulung und keine technischen Grenzen für solche Werkzeuge hatte, und ordnete an, sie zu sperren.
Eine Prognose, auf die das Geschäft setzte
Zillow kaufte Häuser zu Preisen, die teils auf eigenen Prognosen beruhten. Als die Prognosen danebenlagen, schloss Zillow das Geschäft. Zillow nannte auch Probleme bei Arbeitskräften und Lieferungen.
Fälle mit gemessenen oder vom Unternehmen gemeldeten Ergebnissen finden Sie unter alle Fälle. Die Kennzeichnungen und wer jede Zahl erstellt hat, erklärt wie die Website Belege bewertet.