Deutsche Medienaufsicht verweist TikTok-Fangemeinden von Massenschützen an EU-Kommission

Algorithmus liefert Angreifermaterial an Minderjährige

Die Medienaufsicht Baden-Württembergs, die Landesanstalt für Kommunikation (LFK), hat der Europäischen Kommission Erkenntnisse über die Online-Verherrlichung gewalttätiger Angreifer auf TikTok vorgelegt. In einer speziellen Schwerpunktanalyse untersuchte die Medienregulierungsbehörde, wie leicht minderjährige Nutzer mit Inhalten in Kontakt kommen, die Massenschützen und Terroristen feiern. Die LFK erstellte ein Testprofil mit einem Nutzeralter von 16 Jahren und simulierte Interesse an solchem Material. Nach diesem algorithmischen Training bezogen sich mehr als ein Fünftel der auf dem For-You-Feed der Plattform ausgelieferten Videos unterstützend auf Massenschützen oder Angreifer. Die Aufsichtsbehörde wählte TikTok gezielt aus, weil viele Kinder und Jugendliche den Dienst nutzen.

Inhaltsformate und Umgehung der Erkennung

In der Fangemeinde von Angreifern zirkulierendes Material umfasst KI-generierte Videos und Videospiel-Nachstellungen. In sogenannten Rampage-Dance-Clips zeigen Ersteller Täter, die tanzen, während Texteinblendungen die Zahl der ermordeten Opfer anzeigen. Andere Clips stellen Angriffe in Videospielen nach, wie etwa die Schießerei in der Synagoge in Halle (Saale), bei der Spieler versuchen, das Gebäude zu stürmen und die Opferzahlen des tatsächlichen Täters zu übertreffen. Um zu verhindern, dass automatisierte Moderationssysteme diese Beiträge entfernen, verwenden die Ersteller Algospeak, Emojis und abgewandelte Schreibweisen. Die Ersteller bezeichnen Täter als Schauspieler, verwenden Hashtags, die auf fiktive Ereignisse hindeuten, und beschreiben die Opferzahlen, indem sie angeben, dass die Angreifer Geschenke oder Umarmungen verteilt haben.

Sicherheitsrisiken und Gewalt in der realen Welt

Der Verfassungsschutz Baden-Württemberg stellte fest, dass die Online-Teilnehmer dieser Netzwerke oft jung sind und eine extreme Affinität zu Gewalt aufweisen. Die Verfassungsschützer warnen, dass die Subkultur eine kontinuierliche Selbstradikalisierung befördert und Einzelpersonen dazu motivieren kann, gewalttätige Fantasien in der realen Welt umzusetzen.

Die Fangemeinde von Angreifern wird auch als besonders gefährlich angesehen, weil sie sich selbst verstärkt.

Aktuelle strafrechtliche Ermittlungen in Deutschland und Schweden betreffen Verdächtige, die mit diesen Online-Communities in Verbindung stehen. Im Juli verletzte ein 16-jähriger kroatischer Staatsangehöriger zwei Schülerinnen mit einem Messer schwer an einem Gymnasium in Schongau, Oberbayern, nachdem er Schulmassaker in sozialen Netzwerken verherrlicht hatte. Im August leiteten die schwedischen Behörden Ermittlungen zu einem tödlichen Schwertangriff auf einen 17-Jährigen in Fagersta ein, wobei die Ermittler eine ähnliche Online-Verherrlichung von Angreifern untersuchen.

Regulierungsverweis an Brüssel

Die LFK übermittelte ihre Untersuchungsdaten an die europäischen Behörden, damit die Europäische Kommission mögliche Verstöße prüfen und die Ergebnisse in Verfahren gegen TikTok einfließen lassen kann. Die deutsche Landesregulierungsbehörde betonte, dass die Plattform ihre Maßnahmen zur Unterdrückung von Angreifer-Fan-Netzwerken verstärken müsse, unabhängig davon, ob formelle Verstöße gegen EU-Recht festgestellt werden.

Die LFK geht nun davon aus, dass die EU-Kommission die Risikominderungsmaßnahmen von TikTok so schnell wie möglich einer umfassenden Wirksamkeitsprüfung unterziehen und anschließend mit gebührender Eile gegen etwaige Verstöße vorgehen wird.

TikTok gab auf Anfrage der deutschen Pressagentur dpa zunächst keine Stellungnahme zu den Ermittlungen ab.