TikTok: Gefährliche Tendenzen

[FPA SWN • Investigativ | via euronews]

Tausende KI-generierte Videos mit sexualisierten Darstellungen Minderjähriger auf TikTok geteilt und millionenfach geliked

KI generierte „sexualisierte“ Clips

Laut einem detaillierten Bericht der spanischen Fact-Checking-Organisation Maldita.es vom 11. Dezember 2025 wurden auf TikTok mehr als ein Dutzend Accounts identifiziert, die AI-generierte Videos hochgeladen haben, die junge Mädchen – oft als Minderjährige dargestellt – in sexualisierter Kleidung oder in anzüglichen Positionen zeigen. Diese Inhalte umfassen Szenen mit Mädchen in engen Outfits, Lingerie, Bikinis, Schuluniformen oder sogar halbnackt unter der Dusche, begleitet von suggestiven Posen wie dem Lecken von Eiscreme oder verführerischen Blicken. Die Bios vieler Accounts bewarben die Videos explizit als „köstlich aussehende High-School-Mädchen“ oder „Junior-Models“, was die sexualisierte Intention unterstreicht. Insgesamt wurden 15 Accounts mit fast 300.000 Followern und 3.900 Videos analysiert, die zusammen mehr als 2 Millionen Likes gesammelt haben, obwohl solche Inhalte gegen TikToks Richtlinien verstoßen, die die Darstellung, Förderung oder Beteiligung an sexuellem Missbrauch oder Ausbeutung von Jugendlichen verbieten – einschließlich AI-generierter Bilder, die junge Körper sexualisieren oder fetischisieren.

Verlinkungen zu kinderpornografischen Inhalten

In den Kommentarspalten unter diesen Videos wurden häufig Links zu externen Plattformen geteilt, darunter private Telegram-Chats und Websites, in denen kinderpornografisches Material zum Verkauf angeboten wird. Maldita.es berichtet, dass Account-Betreiber in direkten Nachrichten Links zu Websites schickten, auf denen AI-generierte sexualisierte Videos und Bilder von Minderjährigen für Preise zwischen 50 und 150 Euro verkauft werden. Die Organisation hat diese 12 identifizierten Telegram-Gruppen sowie die zugehörigen Websites der spanischen Polizei gemeldet, um weitere Untersuchungen einzuleiten. Einige Accounts monetarisierten ihre Inhalte zusätzlich über TikToks Abonnementdienst, bei dem Nutzer monatliche Gebühren zahlen, um Zugang zu exklusiven AI-generierten Videos und Bildern zu erhalten – Einnahmen, die sich Plattform und Ersteller etwa gleich teilen. Diese Monetarisierung wird durch Kommentare gefördert, die Käufe oder weitere Interaktionen anregen, was auf eine klare Gewinnabsicht hinweist.

Maldita war mit Testaccounts unterwegs

Der Bericht von Maldita.es entstand durch die Nutzung von Test-Accounts zur Überwachung schädlicher Inhalte und hebt eine besorgniserregende Tendenz hervor: AI-generierte Darstellungen junger Kinder in Erwachsenenkleidung, kombiniert mit geldbringenden Anreizen in den Kommentaren. Bei den meisten Videos fehlten Hinweise auf den KI-Einsatz, wie Wasserzeichen oder Kennzeichnungen, obwohl TikTok vorschreibt, dass Creator Inhalte markieren müssen, wenn KI verwendet wurde. Vereinzelt erschien nur das automatische „TikTok AI Alive“-Wasserzeichen, das für die Animation statischer Bilder in Videos genutzt wird, während andere Videos offenbar mit externen AI-Tools erstellt wurden.

Maldita Bericht und TikToks zögerliche Antwort

Der Bericht erscheint zu einem Zeitpunkt, an dem weltweit Maßnahmen zum Schutz Minderjähriger in sozialen Medien intensiviert werden, etwa durch strengere Altersbeschränkungen für unter 16-Jährige in Ländern wie Australien, Dänemark und der Europäischen Union. TikToks Community-Richtlinien erlauben die Entfernung von Videos, die als „schädlich für Personen“ gelten, insbesondere wenn sie sexuelle Ausbeutung von Minderjährigen darstellen. Maldita.es meldete am 2. Dezember 2025 15 Accounts und 60 Videos als „sexuell suggestive Verhalten von Jugendlichen“; TikTok reagierte bis zum 5. Dezember, indem es 14 Accounts als regelkonform einstufte, einen einschränkte und nach Berufungen weitere drei Videos entfernte sowie ein weiteres einschränkte. Bis zum 10. Dezember waren mindestens ein Account und ein Video, die zuvor als unproblematisch galten, nicht mehr verfügbar.

TikToks Stellungnahme

TikTok betonte in einer Stellungnahme, dass es eine Null-Toleranz-Politik gegenüber Inhalten hat, die Pädophilie oder die Ausbeutung Minderjähriger darstellen oder fördern, einschließlich AI-generierter Bilder. Die Plattform nutzt visuelle, audio- und textbasierte Tools sowie menschliche Moderation und entfernte zwischen April und Juni 2025 über 189 Millionen Videos sowie mehr als 108 Millionen Accounts. Davon wurden 99 Prozent der Verstöße gegen Nacktheit oder Bloßstellung (einschließlich Minderjähriger) und 97 Prozent der regelwidrigen AI-generierten Inhalte proaktiv gelöscht. Ein Sprecher von TikTok kommentierte den spezifischen Bericht nicht direkt.

Telegrams Stellungnahme

Telegram erklärte ebenfalls eine Null-Toleranz-Politik gegenüber kinderpornografischem Material und scannt öffentliche Inhalte gegen eine CSAM-Datenbank (Child Sexual Abuse Material). Im Jahr 2025 wurden über 909.000 öffentliche Gruppen und Kanäle im Zusammenhang mit Kinderausbeutung entfernt, und die Plattform akzeptiert Meldungen von NGOs für private Gruppen. Euronews Next kontaktierte TikTok und Telegram für eine Stellungnahme, erhielt jedoch zunächst keine Antwort.