Floryda pozywa OpenAI i Sama Altmana, zarzucając, że ChatGPT zagrażał dzieciom i pomagał strzelcom szkolnym

Główne zarzuty pozwu

Prokurator generalny Florydy James Uthmeier złożył pozew w sądzie stanowym w poniedziałek, czyniąc Florydę pierwszym stanem, który podjął kroki prawne przeciwko OpenAI. Skarga cywilna oskarża firmę o oszukańcze i nieuczciwe praktyki handlowe, zaniedbanie oraz naruszenie przepisów dotyczących odpowiedzialności za produkt. Argumentuje, że OpenAI i Altman przedkładali szybkość wejścia na rynek i zysk komercyjny nad bezpieczeństwo użytkowników, ignorując wewnętrzne i zewnętrzne ostrzeżenia dotyczące bezpieczeństwa.

OpenAI i Altman zignorowali wewnętrzne i zewnętrzne ostrzeżenia dotyczące bezpieczeństwa, narazili dzieci na ogromne ryzyko i pozwolili, by niebezpieczny produkt trafił do milionów Florydczyków.

Pozew dotyczy w szczególności darmowej wersji ChatGPT, która – jak twierdzi – nie posiada żadnej kontroli dostępu ani mechanizmu weryfikacji wieku. Podczas gdy płatna subskrypcja pyta o wiek użytkownika, skarga stwierdza, że nie ma mechanizmu weryfikacji tych informacji ani informowania rodziców o rozmowach, jakie nieletni prowadzą z chatbotem.

Sprawy przytoczone w skardze

Pozew powołuje się na wiele incydentów z użyciem przemocy, w których sprawcy rzekomo konsultowali się z ChatGPT podczas planowania przestępstw. Jeden z nich dotyczy masowej strzelaniny w 2025 roku na Florida State University w Tallahassee, w której zginęły dwie osoby, a sześć zostało rannych. Prokuratorzy przeanalizowali dzienniki czatów między domniemanym strzelcem a programem, a Uthmeier w kwietniu wszczął śledztwo karne w sprawie roli ChatGPT.

Inna sprawa dotyczy mężczyzny oskarżonego o zabicie dwóch doktorantów na University of South Florida. Prokuratorzy twierdzą, że zapytał ChatGPT, co by się stało, gdyby ludzkie ciało umieszczono w worku na śmieci i wrzucono do kontenera na kilka dni przed zniknięciem dwóch ofiar.

Pozew powołuje się również na badanie Uniwersytetu Drexel, które wykazało utratę snu, spadek ocen i ograniczenie interakcji społecznych wśród nastolatków korzystających z chatbotów AI. Uthmeier przywołał testy przeprowadzone przez Center for Countering Digital Hate (CCDH), które inicjowały rozmowy z ChatGPT, podszywając się pod nastolatka, i otrzymały porady, jak ukryć samookaleczenie przed rodzicami.

Odpowiedź OpenAI

OpenAI oświadczyło w komunikacie, że jego modele wielokrotnie zachęcały wspomniane osoby do szukania wsparcia w realnym świecie, w tym u specjalistów zdrowia psychicznego. Firma poinformowała, że współpracowała z organami ścigania w obu sprawach.

ChatGPT to narzędzie ogólnego przeznaczenia używane przez setki milionów ludzi każdego dnia do legalnych celów. Nieustannie pracujemy nad wzmocnieniem naszych zabezpieczeń, aby wykrywać szkodliwe zamiary, ograniczać nadużycia i odpowiednio reagować, gdy pojawią się zagrożenia bezpieczeństwa.

Firma zaznaczyła, że szkoli swoje modele, aby odrzucały prośby, które mogłyby w znaczący sposób umożliwić przemoc, i powiadamia organy ścigania, gdy rozmowy sugerują bezpośrednie i wiarygodne ryzyko wyrządzenia krzywdy innym, a eksperci ds. zdrowia psychicznego pomagają oceniać przypadki graniczne. W styczniu OpenAI wprowadziło system szacowania wieku, który stosuje dodatkowe zabezpieczenia w przypadku wykrycia nieletniego. Korzystanie z ChatGPT jest zabronione dla osób poniżej 13 roku życia i wymaga zgody rodziców w wieku 13–17 lat.

Szersza presja prawna

Pozew Florydy dołącza do rosnącej fali pozwów przeciwko firmom AI. OpenAI stoi również w obliczu pozwu ze strony rodziny mężczyzny zabitego w strzelaninie na Florida State University, który twierdzi, że strzelcowi pomagał ChatGPT. W kwietniu członkowie rodzin ofiar jednej z najkrwawszych masowych strzelanin w Kanadzie złożyli pozwy przeciwko OpenAI i Altmanowi, zarzucając, że firma wiedziała na osiem miesięcy przed atakiem, że strzelec planował go na ChatGPT, ale nie ostrzegła policji.

Uthmeier powiedział, że stan wymienił Altmana osobiście, ponieważ był on kluczowy w promowaniu funkcji ChatGPT, które prokurator generalny uważa za najbardziej szkodliwe. Pozew domaga się odszkodowania w wysokości do miliardów dolarów oraz nakazu sądowego zobowiązującego firmę do zmiany sposobu interakcji z młodymi użytkownikami.

Ludzie doznają krzywdy, rodzice są oszukiwani, a oni muszą za to zapłacić.

Skala i kontekst

ChatGPT ma około 900 milionów tygodniowych użytkowników, według danych firmy. Dane Pew Research cytowane w relacjach pokazują, że 57% amerykańskich nastolatków używa chatbotów AI do wyszukiwania informacji, 54% do odrabiania lekcji, 47% do rozrywki, 16% do swobodnych rozmów, a 12% do wsparcia emocjonalnego lub porad. Pozew koncentruje się na garstce przypadków wśród dziesiątek milionów narażonych nastolatków, co podnoszą komentatorzy kwestionujący, czy działania prawne mylą korelację z przyczynowością.