Sąd Najwyższy Nowego Meksyku nakłada 5000 USD grzywny na adwokata za użycie ChatGPT w apelacji

Orzeczenie o obrazie sądu i kara finansowa

Sąd Najwyższy Nowego Meksyku uznał adwokata Stephena Aaronsa za winnego obrazy sądu i nakazał mu zapłatę 5000 USD grzywny po odkryciu, że pismo apelacyjne zawierało sfabrykowane zeznania policji oraz zmyślone zeznania świadków wygenerowane przez narzędzie OpenAI ChatGPT. Sąd wyższej instancji ustalił, że Aarons nie zweryfikował twierdzeń faktycznych przedstawionych w oficjalnym dokumencie, w tym zeznań osób, które nigdy nie składały wyjaśnień w trakcie procesu. W oficjalnym orzeczeniu sąd podkreślił, że Aarons wykazał się lekceważeniem interesów prawnych swojego klienta, przedkładając niesprawdzone dane wygenerowane przez sztuczną inteligencję. Sędziowie nakazali również przekazanie sprawy do stanowej komisji dyscyplinarnej w celu przeprowadzenia dalszej oceny regulacyjnej.

Podsumowanie akt sprawy i błędy sztucznej inteligencji

Działania dyscyplinarne wynikają z pisma apelacyjnego przygotowanego w imieniu Oscara Rene Sandovala, który utrzymuje, że jest niewinny w sprawie morderstwa matki swoich dzieci. Sandoval został skazany za morderstwo w ubiegłym roku na karę dożywotniego pozbawienia wolności, po czym Aarons przejął jego obronę, aby zakwestionować wyrok. Aarons, prowadzący prywatną kancelarię w Santa Fe, próbował usprawnić proces apelacyjny, wykorzystując ChatGPT do przygotowania zwięzłego streszczenia przebiegu procesu.

Podczas przygotowywania pisma Aarons wprowadził transkrypcje zeznań świadków, oficjalne protokoły sądowe oraz inne dowody bezpośrednio do oprogramowania OpenAI, zakładając, że narzędzie przygotuje rzetelne podsumowanie. Zamiast faktycznego streszczenia, model językowy wygenerował nieistniejących świadków, zmyślone zeznania przypisane funkcjonariuszom organów ścigania oraz elementy narracji całkowicie nieobecne w aktach sądowych. Wśród sfabrykowanych szczegółów przedstawionych sądowi znalazł się opis twierdzący, że sprawca miał na sobie ciemne spodnie i biały t-shirt podczas zdarzenia.

Interwencja procesowa i wyznaczenie nowego obrońcy

Obecność sfabrykowanych materiałów wywołała kontrolę sądową w ubiegłym miesiącu, kiedy Sąd Najwyższy Nowego Meksyku wydał formalne zarządzenie wymagające od Aaronsa wyjaśnienia, w jaki sposób nieudokumentowane zeznania i syntetyczne wypowiedzi świadków trafiły do akt sprawy. Apelacja Sandovala pozostaje w toku, jednak Aarons nie kieruje już strategią obrony. Na początku września obrońca z urzędu Kim Chavez Cook została oficjalnie wyznaczona na nową obrończynię Sandovala, aby nadzorować dalsze postępowanie apelacyjne.

Przyznanie się adwokata i konsekwencje regulacyjne

Aarons przyznał, że polegał na ChatGPT i wyraził skruchę z powodu złożenia niezweryfikowanego materiału, wyjaśniając agencji Reuters, że nie rozumiał skali i częstotliwości halucynacji sztucznej inteligencji, gdy przyjmował sprawę w ubiegłym roku. Aarons stwierdził, że ma nadzieję, iż organy dyscyplinarne wezmą pod uwagę kontekst tego błędu.

Czuję skruchę, ale mam nadzieję, że komisja dyscyplinarna uzna, iż był to uczciwy błąd.

Adwokat z Santa Fe wskazał, że orzeczenie o obrazie sądu i kara finansowa stanowią poważne ostrzeżenie dla środowiska prawniczego dotyczące bezkrytycznego polegania na generatywnych platformach automatycznych.

To bolesna lekcja dla wszystkich profesjonalistów, którzy polegają na tej potężnej, ale czasami niestabilnej technologii.

OpenAI nie odpowiedziało na prośby o komentarz w sprawie orzeczenia z Nowego Meksyku. Sankcja wobec Aaronsa zbiega się w czasie z działaniami dyscyplinarnymi w całym systemie prawnym Stanów Zjednoczonych, gdzie sędziowie stanowi i federalni karali dziesiątki prawników za składanie pism zawierających błędne interpretacje prawne i sfabrykowane cytaty wygenerowane przez narzędzia automatyczne, podczas gdy sami sędziowie spotykali się z publiczną krytyką za wykorzystywanie systemów sztucznej inteligencji w swoich obowiązkach służbowych.