Morgan & Morgan: osiem zmyślonych wyroków z własnego narzędzia AI kancelarii, podpisanych przez trzech prawników

W skrócie

Firma

Morgan & MorganKancelaria prawna

Wielkość

Duże (1000+ pracowników) Strona kancelarii podaje, że ma ponad 1100 adwokatów.

Branża

Usługi profesjonalne

Gdzie i kiedy

Stany Zjednoczone (sąd federalny w Wyoming). Styczeń – luty 2025.

Kto podał liczby

Akta sądu lub trybunałuFakty i cytaty pochodzą z opublikowanego postanowienia sądu o sankcjach. Liczba pracowników pochodzi od samej kancelarii.

Co się stało

Kancelaria reprezentowała rodzinę, która pozwała sieć handlową i producenta. 22 stycznia 2025 roku jej prawnicy złożyli zestaw wniosków przed procesem. Projekt napisał jeden prawnik. Potem wgrał go do wewnętrznego narzędzia AI kancelarii i poprosił je, żeby “add more case law” [„dodało więcej orzecznictwa”].

Druga strona nie mogła znaleźć tych spraw i zwróciła na to uwagę. Sąd poprosił prawników o wyjaśnienia.

Liczby

• Dziewięć powołanych spraw. Osiem nie istniało.
• Trzy podpisy pod pismem. Tylko jeden z trzech prawników nad nim pracował.
• $3000 kary dla prawnika, który je napisał. Odsunięto go też od sprawy.
• Po $1000 kary dla dwóch prawników, którzy podpisali bez czytania.
• Bez kary dla kancelarii.

Co ustalił sąd

• Sprawy zmyśliło narzędzie zbudowane przez kancelarię. To nie był publiczny chatbot. To był własny system kancelarii.
• Podpis oznacza sprawdzenie. Dwaj pozostali prawnicy powiedzieli, że nie czytali pisma. Sąd stwierdził, że to niczego nie zmienia. Podpis potwierdza, że podpisujący przeczytał dokument i sprawdził powołane w nim prawo. Tego obowiązku nie da się przekazać komuś innemu.
• Błędy były widoczne. Sąd zauważył, że fałszywe sprawy nie miały zwykłego formatu sygnatury. Ktoś, kto by się przyjrzał, by to zauważył.
• Otwartość zmniejszyła karę. Prawnicy wycofali pismo, byli “honest and forthcoming about the use of AI” [„uczciwi i otwarci co do użycia AI”], pokryli koszty drugiej strony i pokazali, co zmienili. Sąd wskazał “honesty and candor” [„uczciwość i szczerość”] autora projektu jako powód łagodniejszej kary.

Co kancelaria zrobiła wcześniej i co zmieniła

Kancelaria wykazała przed sądem, że szkoliła pracowników, żeby nie używali narzędzia w ten sposób. Po postanowieniu sądu dodała krok w samym narzędziu. Przed użyciem trzeba zaakceptować komunikat, że “users must independently verify” [„użytkownicy muszą samodzielnie sprawdzić”] wszystko, co wytworzy AI.

Sąd stwierdził, że sam prawdopodobnie nakazałby podobne środki, więc nie ukarał kancelarii.

Co pokazuje ten przypadek

• Twoje własne narzędzie AI też może zmyślać. Zbudowanie narzędzia we własnym zakresie nie zwalnia ze sprawdzania jego wyników.
• Szkolenie nie powstrzymało jednej osoby. Zasada, która istnieje tylko na szkoleniu, może zostać zapomniana. Kancelaria przeniosła ją do narzędzia, do momentu użycia.
• Drugi podpis to nie przegląd. Dwie osoby zatwierdziły dokument, którego żadna nie przeczytała.

Co ten przypadek mówi o praktykach

Praktyki, które firma zastosowała

• Szkol pracowników z obsługi narzędzi, które firma naprawdę wybrała Kancelaria wykazała przed sądem, że szkoliła pracowników, żeby nie używali narzędzia AI tak, jak użył go ten prawnik. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób) Dowody: Wstępne
• Gdy AI się pomyli, popraw błąd szybko i otwarcie Prawnicy wycofali pismo, otwarcie przyznali, że użyli AI, i pokryli koszty drugiej strony. Sąd uznał to za powód łagodniejszej kary. Zrób potem · Nakład pracy: niski (dni, jedna osoba) Dowody: Wstępne

Praktyki, których zabrakło

• Niech człowiek sprawdza wszystko, co trafia do klienta lub ma znaczenie prawne Dwóch prawników podpisało pismo, nie czytając go. Sąd stwierdził, że ślady fałszywych spraw były “noticeable on the Motions’ face” [„widoczne na pierwszy rzut oka w samych wnioskach”]. Zrób najpierw · Nakład pracy: średni (tygodnie, kilka osób) Dowody: Wstępne

Co firma zmieniła później

• Napisz jednostronicową politykę korzystania z AI, którą pracownicy naprawdę przeczytają Po postanowieniu sądu kancelaria dodała komunikat, który pracownicy muszą zaakceptować przed użyciem narzędzia: “users must independently verify” [„użytkownicy muszą samodzielnie sprawdzić”] to, co ono wytworzy. Zrób najpierw · Nakład pracy: niski (dni, jedna osoba) Dowody: Powszechna praktyka

Źródła

1. Wadsworth v. Walmart Inc., No. 2:23-cv-118-KHR. Order on Sanctions and Other Disciplinary Action, 24 February 2025. US District Court, District of Wyoming. storage.courtlistener.com
2. Morgan & Morgan. About us (the firm’s own description of its size). forthepeople.com