Irlandia bada platformę X: chatbot Grok generował seksualne deepfake

Irlandzka Komisja do spraw Ochrony Danych Osobowych (DPC) oficjalnie ogłosiła rozpoczęcie dochodzenia na dużą skalę w sprawie operacji platformy X w Unii Europejskiej. Punktem zapalnym jest działalność inteligentnego asystenta Grok, który był wykorzystywany przez użytkowników do tworzenia intymnych obrazów bez zgody osób na nich przedstawionych. Z raportów wynika, że w ciągu zaledwie 11 dni wygenerowano około 3 miliony takich materiałów, z czego znaczną część mogły stanowić wizerunki osób nieletnich. Deepfake o charakterze pornograficznym stał się narzędziem nękania, a platforma X jest oskarżana o brak odpowiednich filtrów bezpieczeństwa. Od wejścia w życie ogólnego rozporządzenia o ochronie danych (RODO) w 2018 roku, irlandzki regulator stał się kluczowym podmiotem nadzorującym globalne koncerny technologiczne, które swoje europejskie centra operacyjne ulokowały w Dublinie. Dochodzenie koncentruje się na potencjalnym naruszeniu RODO. Regulator chce ustalić, czy proces trenowania modeli oraz generowania treści odbywał się zgodnie z prawem i czy firma Elona Muska dopełniła obowiązku ochrony prywatności mieszkańców Unii Europejskiej. Jak zauważają eksperci, platformie grożą kary finansowe sięgające 4% rocznego światowego obrotu. Sytuacja jest wyjątkowo napięta, gdyż podobne zastrzeżenia wobec Groka zgłosiły już wcześniej władze Hiszpanii oraz organizacje broniące praw dzieci, wskazując na skandaliczny proces „rozbierania” losowych osób przy pomocy algorytmów. 3 miliony — obrazów deepfake wygenerowano w 11 dni Władze w Madrycie oraz innych europejskich stolicach wezwały prokuraturę do podjęcia kroków prawnych nie tylko przeciwko X, ale również wobec Mety oraz TikToka w kontekście szerzenia szkodliwych treści. Elon Musk wielokrotnie podkreślał, że Grok ma być narzędziem promującym „wolność słowa”, jednak unijni urzędnicy stoją na stanowisku, że wolność ta nie może naruszać godności i ochrony danych osobowych jednostek. „DPC rozpoczęło dochodzenie na dużą skalę, które zbada przestrzeganie podstawowych obowiązków wynikających z RODO w związku z tymi kwestiami.” — Komisja DPC Standardy moderacji w platformie X: Weryfikacja treści: Restrykcyjne filtry AI → Liberalizacja przez Muska; Czas reakcji na zgłoszenia: Gwarantowane 24-48h → Często brak odpowiedzi; Narzędzia AI: Brak ogólnodostępnego generatora → Grok z możliwością edycji zdjęćMedia liberalne kładą nacisk na naruszenie praw kobiet i dzieci oraz konieczność surowego ukarania korporacji za brak etycznej kontroli nad AI. | Media konserwatywne ostrzegają przed nadmierną regulacją technologii przez biurokrację unijną, co może ograniczać innowacyjność i wolność słowa.