W skrócie
- Firma
- Levidow, Levidow & Oberman P.C.Kancelaria prawna
- Wielkość
- Źródło tego nie podaje Akta sądowe wymieniają jednego wspólnika kapitałowego.
- Branża
- Usługi profesjonalne
- Gdzie i kiedy
- Stany Zjednoczone (sąd federalny w Nowym Jorku). Marzec–czerwiec 2023.
- Kto podał liczby
- Akta sądu lub trybunałuWszystko na tej stronie pochodzi z opublikowanego uzasadnienia i postanowienia sądu o sankcjach.
Co zrobili
Kancelaria reprezentowała pasażera, który pozwał linię lotniczą Avianca. Jeden z jej prawników potrzebował orzecznictwa federalnego, którego serwis prawniczy kancelarii nie obejmował w pełni. Sięgnął po ChatGPT, którego wcześniej nie używał. Powiedział sądowi, że “falsely assumed” [„błędnie założył”], że jest on “like a super search engine” [„jak super wyszukiwarka”].
ChatGPT dał mu streszczenia orzeczeń, które wspierały jego argument. Kancelaria złożyła je 1 marca 2023 roku.
Liczby
- Sześć z powołanych orzeczeń nie istniało. ChatGPT je zmyślił, z fałszywymi cytatami i fałszywymi sygnaturami.
- Około dwunastu tygodni minęło między złożeniem pisma a chwilą, w której prawnicy powiedzieli sądowi, co się stało. Prawnicy linii lotniczej zakwestionowali te sprawy 15 marca. Sąd zażądał kopii w kwietniu. Prawnicy złożyli wtedy dokumenty, które przedstawili jako kopie lub fragmenty orzeczeń. One też były fałszywe.
- $5000 wyniosła kara, nałożona solidarnie na kancelarię i dwóch prawników 22 czerwca 2023 roku.
- Sąd nakazał im też wysłać swoje uzasadnienie klientowi i każdemu sędziemu wskazanemu jako autor fałszywego orzeczenia.
Co było dalej
Kancelaria poinformowała sąd, że rozszerzyła abonament na serwis prawniczy. Zorganizowała też dla swoich prawników szkolenie z technologii i narzędzi AI. Sąd wziął to pod uwagę.
Co pokazuje ten przypadek
- Sąd nie zakazał AI. Sędzia napisał: “nothing inherently improper about using a reliable artificial intelligence tool for assistance” [„nie ma nic z natury niewłaściwego w korzystaniu z pomocy rzetelnego narzędzia sztucznej inteligencji”].
- Obowiązek sprawdzenia został przy prawnikach. Sędzia napisał, że obowiązujące zasady dają prawnikom “a gatekeeping role” [„rolę strażnika”], który pilnuje, żeby ich pisma były dokładne.
- Użytkownik nie wiedział, czym jest narzędzie. Myślał, że to wyszukiwarka. Krótki test wiedzy pracowników o AI by to wychwycił. Samoocena by tego nie wychwyciła.
- Obstawanie przy wyniku pogorszyło sprawę. Sąd stwierdził, że wynik byłby “quite different” [„zupełnie inny”], gdyby prawnicy przyznali się do problemu, gdy zapytano ich po raz pierwszy.
Co ten przypadek mówi o praktykach
Praktyki, których zabrakło
- Sprawdzaj wiedzę o AI testem, zamiast prosić pracowników o samoocenę Prawnik nie używał wcześniej ChatGPT i założył, że jest “like a super search engine” [„jak super wyszukiwarka”]. Zrób potem · Nakład pracy: średni (tygodnie, kilka osób)
- Zaplanuj budżet na pracę, którą tworzy AI Zmyślone orzeczenia złożono bez sprawdzenia. Sąd stwierdził, że obowiązek sprawdzenia spoczywał na prawnikach. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba)
- Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne Nikt nie sprawdził sześciu orzeczeń przed złożeniem pisma. Sąd stwierdził, że prawnicy pełnią “a gatekeeping role” [„rolę strażnika”] wobec tego, co składają. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób)
- Gdy AI się pomyli, popraw błąd szybko i otwarcie Prawnicy przez około dwanaście tygodni obstawali przy fałszywych wyrokach. Sąd stwierdził, że wynik byłby “quite different” [„zupełnie inny”], gdyby od razu przyznali się do problemu. Zrób potem · Nakład pracy: niski (dni, jedna osoba)
Co firma zmieniła później
Źródła
- Mata v. Avianca, Inc., No. 22-cv-1461 (PKC). Opinion and Order on Sanctions, 22 June 2023. US District Court, Southern District of New York. storage.courtlistener.com