Unia Europejska zakazuje modeli AI generujących deepfake'i o charakterze seksualnym

Decyzja ta jest następstwem międzynarodowej krytyki wymierzonej w chatbota Grok AI, który według organów regulacyjnych był wykorzystywany do tworzenia seksualizowanych wizerunków kobiet i dzieci. Nowe przepisy koncentrują się na technicznych możliwościach aplikacji AI, które ułatwiają tworzenie szkodliwych treści. Działanie państw UE ma na celu uszczelnienie luk regulacyjnych, które pozwalały narzędziom generatywnej sztucznej inteligencji omijać dotychczasowe standardy bezpieczeństwa. Porozumienie stanowi krok w kierunku wzmocnienia unijnego nadzoru nad szybko rozwijającymi się technologiami AI.

Zakaz jest bezpośrednią odpowiedzią na dochodzenia prowadzone wobec xAI, firmy założonej przez Elona Muska, po tym jak model Grok został powiązany z tworzeniem treści o charakterze seksualnym bez zgody osób, których wizerunki wykorzystano. Organy regulacyjne w Wielkiej Brytanii, Kanadzie i Australii wszczęły postępowania wyjaśniające w sprawie Groka na początku 2026 roku, wskazując na brak ochrony użytkowników przed nielegalnymi i szkodliwymi treściami. Samodzielna aplikacja Grok oraz jej integracja z siecią społecznościową X zostały zidentyfikowane jako główne kanały nadużyć. Mimo wcześniejszych zapewnień ze strony X i xAI dotyczących działań przeciwdziałających tym zjawiskom, urzędnicy unijni uznali, że formalny zakaz dotyczący samych modeli jest niezbędny. Porozumienie wzmacnia ramy prawne ustanowione przez unijny akt o sztucznej inteligencji w celu przeciwdziałania nowym zagrożeniom cyfrowym.

Unijny akt o sztucznej inteligencji wszedł w życie 1 sierpnia 2024 roku, ustanawiając system oceny ryzyka dla zastosowań AI. Choć pierwotny tekst zawierał przepisy dotyczące przejrzystości i systemów wysokiego ryzyka, szybki rozwój generatywnej sztucznej inteligencji doprowadził do wezwań o wprowadzenie bardziej szczegółowych zakazów. Na początku 2024 roku międzynarodowe organy regulacyjne zaczęły wskazywać na wzrost liczby intymnych wizerunków generowanych przez AI jako poważny problem dotyczący praw człowieka. Wcześniejsze próby ograniczenia deepfake'ów opierały się na dobrowolnych standardach branżowych, które według urzędników były niewystarczające, aby powstrzymać rozpowszechnianie treści tworzonych bez zgody osób na platformach takich jak X.

Europejscy ministrowie podkreślili potrzebę szybszych działań legislacyjnych, aby nadążyć za zmianami technologicznymi zagrażającymi godności i bezpieczeństwu osobistemu. Oczekuje się, że porozumienie osiągnięte w piątek doprowadzi do wprowadzenia obowiązkowych ograniczeń technicznych dla każdego twórcy AI chcącego działać na rynku europejskim. Zgodnie z nowymi zasadami, twórcy muszą zapewnić, że ich modele posiadają skuteczne filtry uniemożliwiające generowanie seksualizowanych deepfake'ów na poziomie architektury systemu. Ta zmiana polityki odzwierciedla szerszy międzynarodowy trend polegający na pociąganiu twórców AI do odpowiedzialności za wyniki działania ich systemów. Działania UE są postrzegane jako wzorzec dla innych jurysdykcji, które obecnie zmagają się z wyzwaniami etycznymi i prawnymi generatywnej sztucznej inteligencji.

Eskalacja działań regulacyjnych wobec Groka: — ; — ; — ; — ; —