Niemiecki regulator zgłasza Komisji Europejskiej promowanie treści gloryfikujących sprawców ataków przez TikTok

Algorytm serwuje nieletnim materiały o sprawcach ataków

Urząd ds. mediów Badenii-Wirtembergii (Landesanstalt für Kommunikation, LFK) przekazał Komisji Europejskiej ustalenia dotyczące gloryfikacji sprawców przemocy w serwisie TikTok. W ramach analizy regulator zbadał, jak łatwo nieletni użytkownicy mogą zetknąć się z treściami celebrującymi masowych morderców i terrorystów. LFK utworzył profil testowy zarejestrowany na 16-latka i symulował zainteresowanie takimi materiałami. Po tym treningu algorytmicznym ponad jedna piąta filmów wyświetlanych w kanale „Dla Ciebie” zawierała odniesienia wspierające sprawców ataków. Regulator wybrał TikTok ze względu na dużą liczbę dzieci i młodzieży korzystających z serwisu.

Formaty treści i unikanie wykrycia

Materiały krążące w środowisku fanów sprawców ataków obejmują filmy generowane przez sztuczną inteligencję oraz rekonstrukcje w grach wideo. W tzw. klipach „rampage-dance” twórcy pokazują sprawców tańczących, podczas gdy napisy wyświetlają liczbę ofiar. Inne nagrania odtwarzają ataki wewnątrz gier, na przykład zamach na synagogę w Halle (Saale), gdzie gracze próbują sforsować budynek i przekroczyć liczbę ofiar rzeczywistego sprawcy. Aby uniknąć automatycznej moderacji, twórcy stosują tzw. algospeak, emoji i zmienioną pisownię. Określają sprawców mianem aktorów, używają hashtagów sugerujących fikcyjne wydarzenia i opisują liczbę ofiar, twierdząc, że sprawcy rozdawali prezenty lub uściski.

Zagrożenia bezpieczeństwa i przemoc w świecie rzeczywistym

Urząd Ochrony Konstytucji Badenii-Wirtembergii (Verfassungsschutz) zauważył, że uczestnicy tych sieci są często młodzi i wykazują skrajne zamiłowanie do przemocy. Służby ostrzegają, że subkultura ta napędza ciągłą samoradykalizację i może motywować jednostki do urzeczywistniania brutalnych fantazji.

Środowisko fanów sprawców ataków jest uważane za szczególnie niebezpieczne, ponieważ samo się napędza.

Ostatnie śledztwa w Niemczech i Szwecji dotyczą podejrzanych powiązanych z tymi społecznościami internetowymi. W lipcu 16-letni obywatel Chorwacji ciężko ranił nożem dwie uczennice w gimnazjum w Schongau w Górnej Bawarii po tym, jak gloryfikował strzelaniny szkolne w mediach społecznościowych. W sierpniu szwedzkie władze wszczęły dochodzenie w sprawie śmiertelnego ataku mieczem na 17-latka w Fagersta, badając podobne przypadki gloryfikacji sprawców w sieci.

Zgłoszenie regulacyjne do Brukseli

LFK przekazał dane ze śledztwa władzom europejskim, aby Komisja Europejska mogła zbadać potencjalne naruszenia i włączyć ustalenia do postępowań przeciwko TikTokowi. Niemiecki regulator podkreślił, że platforma musi zintensyfikować działania mające na celu tłumienie sieci fanów sprawców ataków, niezależnie od tego, czy zostaną stwierdzone formalne naruszenia prawa UE.

LFK zakłada teraz, że Komisja Europejska jak najszybciej podda środki ograniczania ryzyka stosowane przez TikTok kompleksowej ocenie skuteczności, a następnie podejmie działania przeciwko wszelkim naruszeniom z należytą starannością.

TikTok nie udzielił natychmiastowego komentarza w sprawie dochodzenia, gdy skontaktowała się z nim niemiecka agencja prasowa dpa.