xAI pozywa Minnesotę, by zablokować zakaz tworzenia deepfake'ów, ostrzegając przed miliardowymi karami w obliczu pozwów ws. Groka

Prawo w obliczu wyzwania

Ustawa HF 1606 z Minnesoty, podpisana przez gubernatora Tima Walza na początku tego roku, uznaje za nielegalne generowanie przez strony internetowe lub aplikacje realistycznych nagich lub seksualnie jednoznacznych obrazów prawdziwych, możliwych do zidentyfikowania osób bez ich zgody. Każde naruszenie może skutkować karą cywilną w wysokości do 500 000 USD, a środki te mają finansować wsparcie dla ofiar napaści seksualnych. Senator stanowa Erin Maye Quade przedstawiła projekt ustawy po tym, jak pewien mężczyzna wykorzystał zdjęcia z mediów społecznościowych do stworzenia seksualnych obrazów ponad 80 znanych mu kobiet. Zakaz, który stan określa mianem prawa przeciwko „nudyfikacji”, wchodzi w życie 1 sierpnia. Firmy łamiące przepisy narażają się na ogromne straty: jak wskazuje skarga xAI, 100 000 zakazanych obrazów oznaczałoby „oszałamiające 50 mld USD” kar.

Konstytucyjne wyzwanie xAI

W poniedziałek, 27 lipca, xAI należące do Elona Muska (obecnie część SpaceX) pozwało prokuratora generalnego Minnesoty Keitha Ellisona w sądzie federalnym, wnosząc o uznanie ustawy za niezgodną z konstytucją i zablokowanie jej egzekwowania. Firma nie kwestionuje interesu stanu w powstrzymaniu rozpowszechniania intymnych deepfake'ów bez zgody. Argumentuje natomiast, że ustawa jest „nadmiernie szerokim, opartym na treści zakazem wolności słowa i narzędzi ekspresji wizualnej w nieudolnej próbie zakazania nudyfikacji”. Skarga ostrzega, że prawo obejmuje chronione wypowiedzi, w tym obrazy satyryczne, odrestaurowane zdjęcia rodzinne, a nawet wizerunki mężczyzn bez koszulek czy osób w strojach kąpielowych, ponieważ definicja „części intymnej” wykracza „daleko poza to, co przeciętny człowiek uznałby za nudyfikację”.

Zagrożenie ogromną odpowiedzialnością finansową

Główną obawą xAI jest kwestia finansowa. Zgodnie z ustawą, każda zakazana kreacja wiąże się z odrębną karą w wysokości 500 000 USD. Firma wylicza, że serwis, którego użytkownicy zażądali zaledwie dziesięciu naruszających prawo obrazów, musiałby zapłacić 5 mln USD kar cywilnych; tysiąc obrazów oznaczałoby 500 mln USD, a 100 000 obrazów mogłoby wygenerować 50 mld USD. Prawo nie wymaga, aby obrazy były rozpowszechniane: samo ich wygenerowanie naraża twórcę, nawet jeśli wynik zobaczył tylko użytkownik.

10 obrazów5 000 000

1 000 obrazów500 000 000

100 000 obrazów50 000 000 000

10 obrazów

5000000 $

1 000 obrazów

500000000 $

100 000 obrazów

50000000000 $

Dane z tekstu artykułu

Firma w ogniu krytyki prawnej

Pozew pojawia się w momencie, gdy xAI mierzy się z własnym kryzysem odpowiedzialności. Proponowany pozew zbiorowy złożony w marcu przez młode dziewczęta z Tennessee zarzuca, że ludzie używali Groka do przekształcania prawdziwych zdjęć w materiały przedstawiające seksualne wykorzystywanie dzieci. W zeszłym tygodniu 10-letnia dziewczynka zidentyfikowana jako Jane Doe pozwała firmę, twierdząc, że fotograf z Arkansas użył Groka do stworzenia setek seksualnych obrazów jej osoby oraz tysięcy innych dzieci. Fotograf został aresztowany po tym, jak xAI powiadomiło organy ścigania. xAI twierdzi, że „surowo zabrania” tworzenia intymnych obrazów bez zgody i pozwało własnych użytkowników za obchodzenie blokad, w tym w niedawnej sprawie przeciwko użytkownikowi z Karoliny Południowej. Jednak organy regulacyjne w Kalifornii, Wielkiej Brytanii, UE i Irlandii wszczęły dochodzenia, a firma przyznaje, że musiałaby „ograniczyć funkcje edycji obrazów w Grok Imagine”, gdy prawo Minnesoty wejdzie w życie.

Stanowcza odpowiedź władz Minnesoty

Gubernator Walz zareagował na pozew w mediach społecznościowych w sposób bezpośredni.

„Do zobaczenia w sądzie, zboczeńcu.”

Zwolennicy ustawy twierdzą, że pozostawia ona nienaruszone federalne zabezpieczenia z sekcji 230 i wyłącza narzędzia wymagające rzeczywistych umiejętności technicznych, więc celem pozostają proste aplikacje do nudyfikacji. W obliczu wejścia prawa w życie w sobotę, spór ten stawia teorię wolności słowa xAI przeciwko stanowi zdeterminowanemu, by pociągnąć twórców AI do odpowiedzialności za szkody, które od dawna miały szerzyć się na tej platformie.