Czego brakowało najczęściej
Każdy przypadek wymienia praktyki, które zapobiegłyby porażce albo by ją zmniejszyły. Tych brakowało najczęściej w 17 przypadkach.
- Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne: brakowało w 8 z 17 przypadków
- Obiecuj tylko to, co twoja AI robi w sprawdzonych testach: brakowało w 6 z 17 przypadków
- Zanim kupisz, poproś dostawcę AI o dowody i przetestuj narzędzie na własnym materiale: brakowało w 5 z 17 przypadków
- Poznaj przepisy, które już dotyczą twojego korzystania z AI: brakowało w 5 z 17 przypadków
- Zaplanuj budżet na pracę, którą tworzy AI: brakowało w 4 z 17 przypadków
- Gdy AI się pomyli, popraw błąd szybko i otwarcie: brakowało w 3 z 17 przypadków
Zmyślone cytaty, których nikt nie sprawdził
Prawnicy i firma doradcza złożyli dokumenty powołujące się na orzeczenia lub źródła błędne albo nieistniejące. Strony przypadków pokazują, kto podpisał dokument i ile go to kosztowało.
- Levidow, Levidow & Oberman: kara za pismo procesowe z wyrokami zmyślonymi przez ChatGPT Prawnik użył ChatGPT do wyszukiwania orzecznictwa i złożył w sądzie sześć nieistniejących orzeczeń. Sąd ukarał kancelarię i dwóch jej prawników. Sędzia stwierdził, że problemem nie było użycie AI. Problemem był brak sprawdzenia.
- Morgan & Morgan: osiem zmyślonych wyroków z własnego narzędzia AI kancelarii, podpisanych przez trzech prawników Prawnik poprosił własne narzędzie AI kancelarii o dodanie orzecznictwa do pisma procesowego. Osiem z dziewięciu powołanych spraw nie istniało. Dwóch innych prawników podpisało pismo bez czytania. Kancelaria szkoliła pracowników, a potem dodała ostrzeżenie w samym narzędziu.
- Butler Snow: kancelaria z polityką AI i wspólnik, który jej nie przestrzegał Polityka kancelarii wymagała pisemnej zgody przed użyciem ChatGPT do wyszukiwania orzecznictwa. Wspólnik użył go bez zgody i złożył pięć powołań, które ChatGPT zmyślił. Sąd odsunął od sprawy trzech prawników. Kancelaria zapłaciła za sprawdzenie 2400 powołań.
- Primus Solicitors: 18 nieistniejących orzeczeń, wziętych z wyszukiwania, które klient zrobił z AI Solicitor w małej kancelarii złożył oświadczenie z 45 powołaniami orzeczeń. Osiemnaście spraw nie istniało. Jego klient przygotował wyszukiwanie za pomocą publicznych narzędzi AI, a nikt w kancelarii tego nie sprawdził. Sąd skierował sprawę solicitora do jego regulatora.
- Deloitte Australia: raport dla rządu wydany ponownie, żeby poprawić błędne przypisy Raport Deloitte dla australijskiego ministerstwa trzeba było wydać ponownie, żeby poprawić przypisy i streszczenie sprawy sądowej. Poprawiona wersja ujawniła użycie narzędzia generatywnej AI. Raport nie mówi, że to AI spowodowała błędy.
Obietnice AI zakwestionowane przez urzędy
Te firmy sprzedawały lub reklamowały AI, która według amerykańskiego urzędu nie robiła tego, co obiecywały. Strony przypadków podają, co ustalił urząd i co firma zapłaciła lub na co się zgodziła.
- DoNotPay: „robot prawnik”, którego nigdy nie porównano z prawnikiem DoNotPay mówił klientom, że jego AI wykona pracę prawnika. Amerykański regulator ochrony konsumentów stwierdził, że firma nigdy nie sprawdziła, czy to prawda, i nie zatrudniała prawników do kontroli. Zapłaciła $193 000 i musiała poinformować byłych abonentów o ograniczeniach usługi.
- accessiBe: wtyczka AI, która miała uczynić każdą stronę dostępną, i kara $1 mln accessiBe sprzedawało właścicielom stron wtyczkę AI i twierdziło, że dostosuje ona każdą stronę do standardów dostępności. Amerykański regulator ochrony konsumentów stwierdził, że tak nie było i że chwalące ją recenzje były opłacone. Firma zapłaciła $1 mln.
- Workado: detektor AI sprzedawany jako trafny w 98%, który w testach osiągnął 53% Workado sprzedawało narzędzie, które ma odróżniać tekst napisany przez AI od tekstu napisanego przez człowieka, i reklamowało je jako trafne w 98%. Amerykański regulator ochrony konsumentów podał, że niezależne testy dały 53% na tekstach ogólnych. Kupujący mieli tylko słowo dostawcy.
- Delphia i Global Predictions: kary za twierdzenie, że używają AI, której nie miały Dwaj doradcy inwestycyjni reklamowali AI, której nie mieli. Jeden twierdził, że jego AI uczy się na danych klientów. Drugi nazywał siebie pierwszym regulowanym doradcą finansowym opartym na AI. Amerykański regulator rynku papierów wartościowych ukarał ich na $225 000 i $175 000.
- Presto Automation: amerykański regulator ustalił, że większość zamówień „przez AI” w drive-thru wymagała człowieka Presto sprzedawała restauracjom głosową AI do zamówień w drive-thru i mówiła inwestorom, że eliminuje ona przyjmowanie zamówień przez ludzi. Amerykański regulator rynku papierów wartościowych ustalił, że zdecydowaną większość zamówień wprowadzali ludzie pracujący zdalnie, głównie na Filipinach i w Indiach. Presto zawarła ugodę, nie przyznając się do ustaleń ani im nie zaprzeczając.
- Air AI: amerykański regulator twierdzi, że małym firmom sprzedawano „AI, która zastępuje pracowników”, a kupujący tracili do $250 000 Air AI sprzedawała właścicielom małych firm “conversational AI” [„konwersacyjną AI”], która według niej mogła zastąpić konsultantów obsługi klienta, z obietnicą, że pieniądze się zwrócą. Amerykański regulator ochrony konsumentów zarzuca, że kupujący tracili do $250 000 każdy, a obiecane zwroty rzadko wypłacano. Zgodnie z proponowaną ugodą właściciele mają zakaz sprzedaży okazji biznesowych.
AI w kontakcie z klientami
Chatbot udzielił klientowi błędnej porady. Rozpoznawanie twarzy w sklepach skanowało klientów i niesłusznie oznaczyło niektórych z nich. Trybunał lub urząd orzekł przeciwko każdej z firm, przynajmniej częściowo.
- Air Canada: odpowiedzialna za to, co chatbot na jej stronie powiedział klientowi Chatbot na stronie Air Canada podał klientowi błędne informacje o zwrotach. Kanadyjski trybunał nakazał linii zapłacić. Odrzucił argument, że firma nie odpowiada za swojego chatbota.
- Rite Aid: pięcioletni zakaz rozpoznawania twarzy po zakupie systemu bez sprawdzenia go Rite Aid używała rozpoznawania twarzy do wykrywania podejrzanych o kradzieże. Amerykański regulator ochrony konsumentów stwierdził, że sieć nigdy nie zapytała dostawców, jak dokładny jest system, nigdy go nie sprawdziła i nie przeszkoliła pracowników. Klientów niesłusznie oskarżano. Sieć dostała pięcioletni zakaz używania tej technologii.
- Bunnings: rozpoznawanie twarzy każdego klienta w 63 sklepach i co orzekli regulator oraz trybunał Bunnings skanowała twarz każdej osoby, która weszła do 63 jej sklepów, żeby wyłapać osoby oznaczone za kradzieże lub przemoc. Regulator ochrony prywatności uznał, że sieć złamała prawo. Później trybunał orzekł, że sieć mogła używać tej technologii do walki z poważną przestępczością w sklepach, ale zgodził się, że nie poinformowała klientów jak należy i powinna była najpierw przeprowadzić formalną, udokumentowaną ocenę ryzyka.
Dane osobowe wpisane do publicznego chatbota
Pracownicy dwóch australijskich instytucji publicznych wpisali do ChatGPT dane osobowe obywateli. Jedna instytucja nie zatwierdziła tego narzędzia. Druga nie miała dla niego żadnych zasad. Potem pierwsza zablokowała takie przesyłanie, a urząd nakazał drugiej zablokować te narzędzia.
- NSW Reconstruction Authority: pracownik tymczasowy wgrał do ChatGPT dane 2031 osób Pracownik tymczasowy wgrał do ChatGPT, którego agencja nie zatwierdziła, arkusz z osobami ubiegającymi się o pomoc po powodzi. Zawierał dane osobowe i dane o zdrowiu 2031 osób. Agencja napisała potem wytyczne dotyczące AI, wzmocniła szkolenia i zablokowała takie przesyłanie danych.
- Służba ochrony dzieci w Wiktorii: pracownik wpisał szczegóły sprawy do ChatGPT, a regulator nakazał zablokować te narzędzia Pracownik ochrony dzieci wpisał do ChatGPT dane osobowe rodziny, żeby przygotować raport dla sądu. Raport zawierał błędy. Regulator ochrony prywatności ustalił, że ministerstwo nie miało żadnych zasad, szkoleń ani technicznych ograniczeń dla takich narzędzi, i nakazał je zablokować.
Prognoza, na którą postawiła firma
Zillow kupował domy po cenach ustalanych częściowo na podstawie własnych prognoz. Gdy prognozy chybiły, zamknął tę działalność. Zillow wskazał też problemy z pracownikami i dostawami.
Przypadki ze zmierzonymi wynikami lub wynikami podanymi przez firmę znajdziesz wśród wszystkich przypadków. Etykiety i to, kto podał każdą liczbę, wyjaśnia strona jak serwis ocenia dowody.