Irlandzka komisja bada chatbot Grok w związku z generowaniem obrazów o charakterze seksualnym

Irlandzka Komisja Ochrony Danych (DPC) ogłosiła rozpoczęcie zakrojonego na szeroką skalę dochodzenia w sprawie platformy X, należącej do Elona Muska. Głównym przedmiotem śledztwa jest działanie Grok, czyli opartego na sztucznej inteligencji chatbota, który według licznych doniesień medialnych umożliwiał użytkownikom generowanie bezprawnych, intymnych treści. Chodzi przede wszystkim o zjawisko określane jako nudification, na skutek którego powstają realistyczne obrazy o charakterze seksualnym, w tym najbardziej alarmujące materiały przedstawiające osoby małoletnie. Jako że europejski oddział spółki X Internet Unlimited Company ma siedzibę w Dublinie, irlandzki organ działa w tym przypadku jako wiodący regulator w imieniu całej Unii Europejskiej. Kluczowym elementem postępowania jest weryfikacja, czy platforma dopełniła obowiązków wynikających z unijnego rozporządzenia RODO. Eksperci wskazują, że przetwarzanie danych osobowych w celu tworzenia tak szkodliwych treści może stanowić rażące naruszenie fundamentalnych praw obywateli. Warto odnotować, że reakcja regulatora nastąpiła po fali krytyki ze strony opinii publicznej oraz rządów, w tym Hiszpanii, która również wezwała do ścisłej kontroli działań gigantów technologicznych. Jeżeli śledztwo potwierdzi uchybienia, X grozi kara finansowa wynosząca do 4% rocznego światowego obrotu przedsiębiorstwa. Firma Elona Muska znajduje się pod rosnącą presją, by wdrożyć skuteczniejsze mechanizmy zabezpieczające przed nadużyciami sztucznej inteligencji. Irlandia stała się centrum europejskiej ochrony danych, ponieważ w tym kraju swoje centrale zarejestrowały największe korporacje technologiczne świata, w tym Google, Meta i Apple. Od momentu wejścia w życie RODO w 2018 roku, tamtejszy regulator nałożył już miliardy euro kar, dyscyplinując firmy w zakresie ochrony prywatności użytkowników. Sprawa Grok wpisuje się w szerszy trend regulowania modeli sztucznej inteligencji w Europie. Unia Europejska niedawno przyjęła pionierski akt o sztucznej inteligencji (AI Act), który kategoryzuje systemy według poziomu ryzyka. Przypadki generowania deepfake'ów bez zgody ofiar są traktowane przez ustawodawców jako priorytetowe zagrożenie społeczne. Rezultat dochodzenia DPC będzie stanowił istotny precedens dla innych twórców generatywnej inteligencji, zmuszając ich do brania większej odpowiedzialności za efekty pracy ich algorytmów w przestrzeni publicznej.

4% — maksymalnej kary z rocznego obrotu spółki

Kalendarium śledztwa w sprawie Grok: 17 lutego, rano — Ogłoszenie śledztwa; 17 lutego, popołudnie — Reakcja międzynarodowa; 17 lutego, wieczór — Głos Hiszpanii