Jüngste Tragödien und Gerichtsurteile treiben in Europa den Vorstoß nach einer strengeren Regulierung von Social-Media-Plattformen und einem grundsätzlich besser geschützten Online-Umfeld für junge Menschen voran. Die Bewegung wird durch zunehmende Beweise dafür angetrieben, dass aktuelle Algorithmen und Praktiken der Inhaltsmoderation die psychische Gesundheit von Kindern aktiv schädigen.
Die menschlichen Kosten des uneingeschränkten Zugangs
Der Fall von Marie Le Tiec, einer 15-jährigen Französin, die sich 2021 das Leben nahm, verdeutlicht die Gefahren. Ihre Mutter, Stéphanie Mistre, entdeckte nach ihrem Tod zutiefst beunruhigende Inhalte in ihrem TikTok-Feed – darunter Lieder, die Selbstmord fördern, und explizite Anweisungen, die die von Marie angewandte Methode widerspiegeln. Mistre ist heute ein lautstarker Verfechter der Online-Sicherheit und Kläger in einer Klage gegen TikTok, in der er der Plattform vorwirft, von psychischen Krisen bei Kindern zu profitieren.
Dies ist kein Einzelfall. Eine kalifornische Jury befand Meta und YouTube kürzlich für haftbar, weil sie absichtlich süchtig machende Funktionen entwickelt hatten, die das geistige Wohlbefinden eines jungen Nutzers beeinträchtigten. Diese bahnbrechende Entscheidung könnte die Tür für weitere Rechtsstreitigkeiten in den USA öffnen.
Europas Regulierungsansatz
Die Europäische Union verfolgt einen proaktiveren Ansatz. Die für Technologiepolitik zuständige Kommissarin Henna Virkkunen erklärte, die Regulierungsbehörden wollten „eine klare Grenze setzen: Man kann keine Geschäfte machen, indem man die psychische Gesundheit der Menschen schädigt.“ Das Ziel ist nicht nur die Moderation von Inhalten, sondern eine grundlegende Umgestaltung des Internets, um eine schädliche Exposition gegenüber Kindern zu verhindern. Dazu gehört die Einschränkung des Zugangs zu sexuellem oder gewalttätigem Material, bevor Kinder entwicklungsreif sind, und die Eindämmung manipulativer Algorithmen, die den zwanghaften Gebrauch fördern.
Die Auswirkungen sind erheblich: Große Plattformen können mit rechtlichen und finanziellen Strafen rechnen, wenn sie sich nicht daran halten. Der Drang nach einem „sanfteren“ Web spiegelt eine umfassendere gesellschaftliche Auseinandersetzung mit der unkontrollierten Macht der sozialen Medien und ihren Auswirkungen auf gefährdete Bevölkerungsgruppen wider.
Dieser Politikwechsel ist notwendig, da sich die derzeitigen Vorschriften als unzureichend erwiesen haben. Während bestehende Gesetze sich mit illegalen Inhalten befassen, berücksichtigen sie oft nicht die heimtückischen Auswirkungen algorithmischer Manipulation und die Normalisierung selbstzerstörerischen Verhaltens im Internet. Die Bemühungen der EU stellen einen entscheidenden Versuch dar, im digitalen Zeitalter dem Kindeswohl Vorrang vor Unternehmensgewinnen zu geben.
