Sąd Najwyższy Nowego Meksyku nakłada 5000 USD grzywny na adwokata za sfabrykowane przez ChatGPT zeznania w apelacji

Sankcje za sfabrykowane zeznania

Sąd Najwyższy Nowego Meksyku uznał adwokata specjalizującego się w prawie karnym, Stephena Aaronsa, za winnego bezpośredniej obrazy sądu, nałożył na niego 5000 USD grzywny i skierował sprawę do stanowej komisji dyscyplinarnej. Aarons, prywatny adwokat z Santa Fe z ponad 40-letnim doświadczeniem, złożył apelację zawierającą fałszywe zeznania i zmyślonych świadków wygenerowanych przez narzędzie OpenAI ChatGPT. Sędziowie stwierdzili, że Aarons nie zweryfikował twierdzeń faktycznych ani podstaw prawnych przed złożeniem dokumentu. Apelację złożono w imieniu Oscara Renee Sandovala, który nie przyznał się do morderstwa Shiereen Al-Jibury, lecz został skazany na dożywocie w lutym 2025 r.

Skala halucynacji AI

Ustalenia sądu szczegółowo opisują liczne przypadki, w których program sztucznej inteligencji sfabrykował świadków i ich wypowiedzi. Aarons przyznał, że apelacja zawierała fałszywe zeznania przypisane fikcyjnym osobom, w tym funkcjonariuszce Michelle Amarillo, funkcjonariuszowi Sanchezowi, Manal Al-Jibury oraz Teresie Marquez. Ponadto dokument zawierał zmyślone twierdzenia o groźbach złożone w imieniu Danny'ego Stantona i Lindy Stanton, a także wymyślone zeznania dotyczące sprawcy ubranego w ciemne spodnie i białą koszulę. Aarons błędnie przedstawił również podstawy prawne w cytowaniach orzecznictwa, wykraczając poza standardowe błędy cytowania poprzez wprowadzenie fałszywych faktów procesowych do postępowania karnego.

Reakcja sądu i przesłuchanie

Aarons stwierdził, że wprowadził wygenerowany komputerowo zapis procesu o morderstwo wraz z powiązanymi dokumentami do ChatGPT, wierząc, że oprogramowanie przygotuje wiarygodne podsumowanie rozprawy. Podczas przesłuchania 21 sierpnia, zwołanego w celu zbadania treści apelacji, sąd zakwestionował brak nadzoru adwokata i jego podstawową nieświadomość błędów oprogramowania generatywnego. Sędzia C. Shannon Bacon zapytała adwokata wprost o jego brak wiedzy na temat dobrze udokumentowanego ryzyka związanego ze sztuczną inteligencją.

„Mecenasie, czy ogląda pan wiadomości? Słucha pan radia? Czyta pan cokolwiek o tym, co dzieje się na świecie? Problem polega na tym, że poleganie przez prawników na halucynacjach AI jest codziennie tematem na pierwszych stronach gazet.”

Sąd Najwyższy w środowym postanowieniu stwierdził, że Aarons wykazał brak skruchy i nie poinformował klienta o fałszywych reprezentacjach faktycznych i prawnych.

Przekazanie apelacji i skierowanie do komisji dyscyplinarnej

Po wydaniu decyzji Aarons przyznał, że nie rozumiał, w jaki sposób generatywne modele sztucznej inteligencji tworzą nieistniejące informacje.

„Czuję skruchę, ale mam nadzieję, że komisja dyscyplinarna weźmie pod uwagę, że był to uczciwy błąd. To lekcja dla wszystkich profesjonalistów, którzy polegają na tej potężnej, ale czasem niestabilnej technologii.”

Stan Nowy Meksyk początkowo złożył wniosek o odrzucenie fragmentów apelacji Aaronsa kilka tygodni po jej złożeniu w sierpniu 2025 r. Apelacja Sandovala pozostaje w toku, a sprawa została oficjalnie przekazana 2 września 2026 r. obrońcy z urzędu Kim Chavez Cook.