Le régulateur allemand des médias signale à la Commission européenne les communautés de fans de tueries de masse sur TikTok

L'algorithme diffuse du contenu d'attaquants aux mineurs

L'autorité des médias du Bade-Wurtemberg, la Landesanstalt für Kommunikation (LFK), a transmis à la Commission européenne ses conclusions sur la glorification en ligne des attaquants violents sur TikTok. Dans une analyse ciblée, le régulateur des médias a examiné la facilité avec laquelle les utilisateurs mineurs entrent en contact avec du contenu célébrant les tueurs de masse et les terroristes. LFK a créé un profil test enregistré avec un âge utilisateur de 16 ans et a simulé un intérêt pour ce type de contenu. Après cet entraînement algorithmique, plus d'un cinquième des vidéos diffusées sur le fil For You de la plateforme faisaient référence de manière positive aux tueurs de masse ou aux attaquants. L'autorité de régulation a choisi TikTok spécifiquement parce qu'un grand nombre d'enfants et d'adolescents utilisent le service.

Formats de contenu et contournement de la détection

Le matériel circulant au sein de la scène des fans d'attaquants comprend des vidéos générées par intelligence artificielle et des reconstitutions de jeux vidéo. Dans les clips dits de danse de massacre, les créateurs montrent des auteurs dansant tandis que des superpositions de texte affichent le nombre de victimes assassinées. D'autres clips recréent des attaques dans des jeux vidéo, comme la fusillade à la synagogue de Halle (Saale), où les joueurs tentent de pénétrer dans le bâtiment et de dépasser le nombre de victimes du tireur réel. Pour empêcher les systèmes de modération automatisés de supprimer ces publications, les créateurs utilisent l'algospeak, des emojis et des orthographes modifiées. Les créateurs désignent les auteurs comme des acteurs, utilisent des hashtags suggérant des événements fictifs et décrivent les bilans de victimes en affirmant que les attaquants ont distribué des cadeaux ou des câlins.

Risques sécuritaires et violence réelle

Le service de renseignement intérieur du Bade-Wurtemberg, le Verfassungsschutz, a observé que les participants en ligne de ces réseaux sont souvent jeunes tout en manifestant une affinité extrême pour la violence. Les responsables du renseignement avertissent que la sous-culture alimente une auto-radicalisation continue et peut motiver des individus à réaliser des fantasmes violents dans le monde réel.

La scène des fans d'attaquants est également considérée comme particulièrement dangereuse car elle se renforce elle-même.

Des enquêtes criminelles récentes en Allemagne et en Suède impliquent des suspects liés à ces communautés en ligne. En juillet, un ressortissant croate de 16 ans a grièvement blessé deux étudiantes avec un couteau dans un gymnase à Schongau, en Haute-Bavière, après avoir glorifié des fusillades scolaires sur les réseaux sociaux. En août, les autorités suédoises ont ouvert une enquête sur une attaque mortelle à l'épée contre un jeune de 17 ans à Fagersta, les enquêteurs examinant une glorification similaire d'attaquants en ligne.

Renvoi réglementaire à Bruxelles

LFK a transféré ses données d'enquête aux autorités européennes afin que la Commission européenne puisse examiner les violations potentielles et intégrer les conclusions dans les procédures contre TikTok. Le régulateur d'État allemand a souligné que la plateforme doit intensifier ses mesures pour supprimer les réseaux de fans d'attaquants, indépendamment de l'établissement de violations formelles du droit de l'UE.

LFK suppose désormais que la Commission européenne soumettra les mesures d'atténuation des risques de TikTok à un examen complet de leur efficacité dès que possible et prendra ensuite des mesures contre toute violation avec la diligence requise.

TikTok n'a pas fourni de commentaire immédiat sur l'enquête lorsqu'il a été contacté par l'agence de presse allemande dpa.