TikTok will KI-Spam-Konten ins Visier nehmen: Erkennungssysteme für Spam zu Politik, Gesundheit und Finanzen werden ausgebaut
Die Plattform wird in den kommenden Wochen verbesserte Erkennungssysteme für Konten testen, die ausschließlich KI-generierte Videos zu Politik, Gesundheit und Finanzen veröffentlichen – mit Verweis auf Risiken für das öffentliche Vertrauen.
TikToks neue Erkennungsoffensive
TikTok hat am Freitag, den 10. Juli 2026, angekündigt, seine KI-Erkennungsmechanismen zu verstärken, um Konten zu verfolgen, die ausschließlich von künstlicher Intelligenz generierte Inhalte posten. Das Vorgehen konzentriert sich auf Themen, die das Unternehmen als risikoreich einstuft: Politik und aktuelle Ereignisse, Gesundheit und Finanzberatung. Es wurden keine technischen Details veröffentlicht, aber die Plattform erklärte, dass die Tests der verbesserten Erkennungssysteme in den kommenden Wochen beginnen werden.
In den kommenden Wochen wird TikTok Verbesserungen an den Erkennungssystemen testen, um Konten zu bekämpfen, die sich auf die Veröffentlichung von KI-generiertem Spam zu Themen konzentrieren, die wahrscheinlich Auswirkungen auf das öffentliche Vertrauen oder das Wohlbefinden der Nutzer haben.
Das Unternehmen betonte außerdem, dass solche KI-generierten Inhalte „die Sichtbarkeit originaler Kreativer“ schädigen.
Was als „KI-Slop“ gilt
TikTok beschrieb die gezielten Konten als Produzenten minderwertiger, hochgradig standardisierter KI-Inhalte. Laut AFP mitgeteilten Details weisen diese Spam-Konten oft eine „Konzentration“ risikoreicher Themen auf und kaufen oder verkaufen möglicherweise Follower, um ihre Reichweite zu vergrößern. Das Phänomen wird weithin als „KI-Slop“ oder „bouillie d'IA“ bezeichnet und beschreibt die Flut billiger, mitunter absurder Inhalte, die generative KI ermöglicht.
Hochrisikothemen unter Beobachtung
Indem TikTok sich auf Politik, Nachrichten, Gesundheit und Finanzberatung konzentriert, will es Inhalte eindämmen, die das öffentliche Vertrauen untergraben oder Nutzer in wichtigen Fragen in die Irre führen können. Das Unternehmen machte keine Angaben dazu, wie seine Erkennungssysteme zwischen harmlosen KI-gestützten Beiträgen und regelrechtem Spam unterscheiden werden, stellte den Schritt jedoch als notwendige Maßnahme dar, um sowohl das Nutzererlebnis als auch das Informationsökosystem der Plattform zu schützen.
Brancheninitiativen und bisherige Maßnahmen
TikTok ist nicht allein im Kampf gegen KI-generierten Spam. Bereits 2024 führte die Plattform eine automatische Kennzeichnung von KI-erstellten Inhalten ein. Pinterest zog im Oktober 2025 nach und gab Nutzern die Möglichkeit, bestimmte KI-generierte Beiträge auszufiltern. Mehr als 15 Faktenprüforganisationen, darunter AFP, werden derzeit von TikTok in mehreren Ländern bezahlt, um Videos zu überprüfen, die möglicherweise Falschinformationen enthalten.
Ausblick
TikTok nannte keinen Zeitplan für den vollständigen Einsatz der verbesserten Erkennung über die erste Testphase hinaus. Die Ankündigung lässt offen, wie das Unternehmen automatisierte Kennzeichnung mit Widerspruchsmöglichkeiten für Kreative in Einklang bringen wird. In Ermangelung technischer Details werden die kommenden Wochen zeigen, ob die neuen Systeme den KI-Slop, der in sozialen Medien allgegenwärtig geworden ist, wirksam reduzieren können.
