xAI pozywa Minnesotę, by zablokować zakaz tworzenia deepfake'ów, ostrzegając przed miliardowymi karami w obliczu pozwów ws. Groka
Firma xAI należąca do Elona Muska złożyła w poniedziałek pozew federalny, domagając się uchylenia pierwszego w USA zakazu stosowania narzędzi do tworzenia deepfake'ów o charakterze seksualnym. Spółka argumentuje, że prawo to ogranicza wolność słowa i grozi jej rujnującymi karami finansowymi, podczas gdy sama firma mierzy się z wieloma pozwami w związku z generowaniem przez model Grok materiałów przedstawiających seksualne wykorzystywanie dzieci.
Prawo w obliczu wyzwania
Ustawa HF 1606 z Minnesoty, podpisana przez gubernatora Tima Walza na początku tego roku, uznaje za nielegalne generowanie przez strony internetowe lub aplikacje realistycznych nagich lub seksualnie jednoznacznych obrazów prawdziwych, możliwych do zidentyfikowania osób bez ich zgody. Każde naruszenie może skutkować karą cywilną w wysokości do 500 000 USD, a środki te mają finansować wsparcie dla ofiar napaści seksualnych. Senator stanowa Erin Maye Quade przedstawiła projekt ustawy po tym, jak pewien mężczyzna wykorzystał zdjęcia z mediów społecznościowych do stworzenia seksualnych obrazów ponad 80 znanych mu kobiet. Zakaz, który stan określa mianem prawa przeciwko „nudyfikacji”, wchodzi w życie 1 sierpnia. Firmy łamiące przepisy narażają się na ogromne straty: jak wskazuje skarga xAI, 100 000 zakazanych obrazów oznaczałoby „oszałamiające 50 mld USD” kar.
- Proponowany pozew zbiorowy złożony przez dziewczęta z Tennessee w związku z materiałami z wykorzystywaniem dzieci generowanymi przez Groka.
- xAI pozywa użytkownika z Karoliny Południowej za obchodzenie zabezpieczeń.
- Pozew Jane Doe złożony w Arkansas w związku z obrazami wygenerowanymi przez Groka przez fotografa.
- xAI pozywa prokuratora generalnego Minnesoty Keitha Ellisona, by zablokować HF 1606.
- Zakaz nudyfikacji w Minnesocie wchodzi w życie.
Konstytucyjne wyzwanie xAI
W poniedziałek, 27 lipca, xAI należące do Elona Muska (obecnie część SpaceX) pozwało prokuratora generalnego Minnesoty Keitha Ellisona w sądzie federalnym, wnosząc o uznanie ustawy za niezgodną z konstytucją i zablokowanie jej egzekwowania. Firma nie kwestionuje interesu stanu w powstrzymaniu rozpowszechniania intymnych deepfake'ów bez zgody. Argumentuje natomiast, że ustawa jest „nadmiernie szerokim, opartym na treści zakazem wolności słowa i narzędzi ekspresji wizualnej w nieudolnej próbie zakazania nudyfikacji”. Skarga ostrzega, że prawo obejmuje chronione wypowiedzi, w tym obrazy satyryczne, odrestaurowane zdjęcia rodzinne, a nawet wizerunki mężczyzn bez koszulek czy osób w strojach kąpielowych, ponieważ definicja „części intymnej” wykracza „daleko poza to, co przeciętny człowiek uznałby za nudyfikację”.
Zagrożenie ogromną odpowiedzialnością finansową
Główną obawą xAI jest kwestia finansowa. Zgodnie z ustawą, każda zakazana kreacja wiąże się z odrębną karą w wysokości 500 000 USD. Firma wylicza, że serwis, którego użytkownicy zażądali zaledwie dziesięciu naruszających prawo obrazów, musiałby zapłacić 5 mln USD kar cywilnych; tysiąc obrazów oznaczałoby 500 mln USD, a 100 000 obrazów mogłoby wygenerować 50 mld USD. Prawo nie wymaga, aby obrazy były rozpowszechniane: samo ich wygenerowanie naraża twórcę, nawet jeśli wynik zobaczył tylko użytkownik.
- 10 obrazów
- 5000000 $
- 1 000 obrazów
- 500000000 $
- 100 000 obrazów
- 50000000000 $
Firma w ogniu krytyki prawnej
Pozew pojawia się w momencie, gdy xAI mierzy się z własnym kryzysem odpowiedzialności. Proponowany pozew zbiorowy złożony w marcu przez młode dziewczęta z Tennessee zarzuca, że ludzie używali Groka do przekształcania prawdziwych zdjęć w materiały przedstawiające seksualne wykorzystywanie dzieci. W zeszłym tygodniu 10-letnia dziewczynka zidentyfikowana jako Jane Doe pozwała firmę, twierdząc, że fotograf z Arkansas użył Groka do stworzenia setek seksualnych obrazów jej osoby oraz tysięcy innych dzieci. Fotograf został aresztowany po tym, jak xAI powiadomiło organy ścigania. xAI twierdzi, że „surowo zabrania” tworzenia intymnych obrazów bez zgody i pozwało własnych użytkowników za obchodzenie blokad, w tym w niedawnej sprawie przeciwko użytkownikowi z Karoliny Południowej. Jednak organy regulacyjne w Kalifornii, Wielkiej Brytanii, UE i Irlandii wszczęły dochodzenia, a firma przyznaje, że musiałaby „ograniczyć funkcje edycji obrazów w Grok Imagine”, gdy prawo Minnesoty wejdzie w życie.
Stanowcza odpowiedź władz Minnesoty
Gubernator Walz zareagował na pozew w mediach społecznościowych w sposób bezpośredni.
Do zobaczenia w sądzie, zboczeńcu.
Zwolennicy ustawy twierdzą, że pozostawia ona nienaruszone federalne zabezpieczenia z sekcji 230 i wyłącza narzędzia wymagające rzeczywistych umiejętności technicznych, więc celem pozostają proste aplikacje do nudyfikacji. W obliczu wejścia prawa w życie w sobotę, spór ten stawia teorię wolności słowa xAI przeciwko stanowi zdeterminowanemu, by pociągnąć twórców AI do odpowiedzialności za szkody, które od dawna miały szerzyć się na tej platformie.
