Telegram kurzzeitig aus dem App Store entfernt wegen CSAM, CEO macht Erpresser verantwortlich, der KI-veränderten Inhalt eingeschleust hat

Entfernung und Wiederherstellung

Am Montag, den 3. August, verschwand Telegram in mehreren Regionen aus dem Apple App Store, darunter den Vereinigten Staaten, Indien, Australien und Singapur. Apple bestätigte, dass es die App vorübergehend entfernt hatte, nachdem eine Überprüfung Inhalte gefunden hatte, die gegen seine strengen Richtlinien zum Verbot von Material über sexuellen Kindesmissbrauch (CSAM) verstießen. Berichte über die Entfernung begannen gegen 21:30 Uhr Eastern Time zu kursieren, und die App kehrte etwa 40 Minuten später, gegen 22:10 Uhr Eastern Time (04:10 Uhr MESZ am 4. August), zurück, nachdem Telegram die anstößigen Inhalte entfernt und den Benutzer, der sie gepostet hatte, gesperrt hatte. Während sie weg war, konnten neue Benutzer Telegram nicht herunterladen; bestehende Benutzer behielten durchgehend Zugriff.

„Wir haben Telegram kurzzeitig aus dem App Store entfernt, nachdem unsere Überprüfung Inhalte gefunden hatte, die gegen unsere strengen Richtlinien zum Verbot von Material über sexuellen Kindesmissbrauch verstoßen. Die App wurde anschließend wiederhergestellt, nachdem der Entwickler die Inhalte umgehend entfernt und den Benutzer, der sie gepostet hatte, gesperrt hatte.“

Die Entfernung war kurz, betraf aber einen Dienst mit mehr als einer Milliarde monatlich aktiven Nutzern. Telegram blieb während des gesamten Vorfalls im Mac App Store und bei Google Play verfügbar.

Durov macht Erpresser verantwortlich

Stunden nach der Wiederherstellung veröffentlichte Telegram-CEO Pavel Durov eine detaillierte Erklärung, in der er behauptete, der Vorfall sei durch einen „Takedown-Erpresser“ verursacht worden. Laut Durov nutzte der Angreifer ein automatisiertes Konto, um eine alte Nachricht in einem aktiven Gruppenchat zu bearbeiten und KI-veränderte illegale Inhalte einzufügen. Da die Bearbeitung rückdatiert war, waren die Inhalte für Gruppenmitglieder praktisch unsichtbar, die sie weder sehen noch melden konnten. Der Erpresser meldete die Gruppe dann direkt bei Apple, was die Entfernung auslöste.

„Der Angreifer war ein Takedown-Erpresser: jemand, der Lösegeld von Gruppenbesitzern verlangt, im Austausch dafür, dass er ihre Gemeinschaften nicht ins Visier nimmt. Diese Erpresser nutzen automatisierte Konten, um illegale Inhalte in öffentlichen Gruppen zu platzieren und sie dann direkt bei Apple zu melden, um die Entfernung legitimer Gemeinschaften auszulösen, deren Besitzer sich weigerten, sie zu bezahlen.“

Durov argumentierte, dass der Vorfall ein systemisches Risiko aufzeige: Apple habe eine von über einer Milliarde Menschen genutzte App ohne Vorwarnung entfernt und damit einen Präzedenzfall geschaffen, der jede Plattform mit nutzergenerierten Inhalten betreffen könnte. Er warnte auch, dass sich Erpressungstaktiken weiterentwickeln und andere Plattformen möglicherweise nicht gleichermaßen vorbereitet seien.

Telegrams Reaktion und Moderationsbilanz

Telegram reagierte auf Apples Aussage mit einem sarkastischen Beitrag auf X und fragte: „Ich bin sicher, diese Haltung wird in Zukunft gleichermaßen auf alle anderen Apps im Store angewendet, oder?“ Das Unternehmen verlinkte auch auf seine Sicherheitsübersichtsseite, auf der steht, dass Telegram täglich Zehntausende von Gruppen und Kanälen blockiert und Millionen von Inhalten entfernt, die gegen seine Richtlinien verstoßen. Allein im Jahr 2026 habe Telegram fast 338.000 Gruppen und Kanäle blockiert, die dem Teilen von CSAM gewidmet waren.

Epic Games CEO Tim Sweeney, dessen Unternehmen seit langem mit Apple über App-Store-Richtlinien kämpft, stellte die Entscheidung in Frage.

„Der App Store von Apple braucht dringend weltweiten Wettbewerb. Apple entfernt willkürlich ein wichtiges Kommunikations- und Datenschutztool aus der Verfügbarkeit für eine Milliarde Nutzer, und leider ist das Alltagsgeschäft. Apple hat erklärt, sie hätten die App für eine Milliarde Nutzer unzugänglich gemacht, weil ein Telegram-Nutzer etwas Schreckliches und Illegales gepostet habe. Eine solche willkürliche Durchsetzung von Richtlinien durch einen Monopol-Gatekeeper schafft einen perfekten Sturm aus Angst und Zustimmung seitens der Entwickler, die Opfer von Apples Monopol sind.“

Rechtlicher Druck auf Telegram und Durov

Der Vorfall reiht sich in eine Reihe regulatorischer und rechtlicher Herausforderungen für Telegram ein. Bereits 2018 entfernte Apple die App aus ähnlichen CSAM-Bedenken und stellte sie wieder her, nachdem Telegram die Sicherheitsvorkehrungen verstärkt hatte. In jüngerer Zeit verhafteten die französischen Behörden Durov im Jahr 2024 und klagten ihn an, illegale Transaktionen ermöglicht und an der Verbreitung von CSAM mitgewirkt zu haben. Die gegen ihn verhängten Reisebeschränkungen wurden 2025 aufgehoben. Auch Russland hat Durov wegen Terrorismusunterstützung angeklagt und behauptet, ukrainische Sicherheitsdienste hätten Telegram genutzt.

Im April 2026 leitete die britische Kommunikationsregulierungsbehörde Ofcom eine Untersuchung zu Hinweisen auf die Verbreitung von CSAM auf der Plattform ein. Telegram wies die Vorwürfe zurück und erklärte, es habe die öffentliche Verbreitung solchen Materials seit 2018 durch Erkennungsalgorithmen „praktisch eliminiert“. Ende Juli leitete die australische Internet-Sicherheitsbehörde rechtliche Schritte gegen Telegram ein, weil es angeblich versäumt habe, extremistische Inhalte zu entfernen, darunter Videos von Massenerschießungen durch weiße Rassisten und Enthauptungen durch den Islamischen Staat. Telegram wies die Vorwürfe zurück und erklärte, es werde sie vor Gericht anfechten.