Recente tragedies en juridische uitspraken zorgen ervoor dat er in Europa een drang ontstaat naar strengere regulering van sociale-mediaplatforms en een fundamenteel meer beschermende online-omgeving voor jongeren. De beweging wordt gevoed door groeiend bewijs dat de huidige algoritmen en praktijken voor inhoudsmoderatie de geestelijke gezondheid van kinderen actief schaden.
De menselijke kosten van onbelemmerde toegang
De zaak van Marie Le Tiec, een 15-jarig Frans meisje dat in 2021 zelfmoord pleegde, benadrukt de gevaren. Haar moeder, Stéphanie Mistre, ontdekte na haar dood zeer verontrustende inhoud op haar TikTok-feed, waaronder liedjes waarin zelfmoord werd gepromoot en expliciete instructies die de methode weerspiegelden die Marie gebruikte. Mistre is nu een pleitbezorger voor online veiligheid en eiser in een rechtszaak tegen TikTok, waarbij hij het platform ervan beschuldigt te profiteren van de geestelijke gezondheidscrises van kinderen.
Dit is geen op zichzelf staand incident. Een jury uit Californië heeft onlangs Meta en YouTube aansprakelijk gesteld voor het opzettelijk ontwerpen van verslavende functies die het mentale welzijn van een jonge gebruiker schaden. Deze baanbrekende beslissing zou de deur kunnen openen voor verdere rechtszaken in de VS.
De Europese regelgevingsaanpak
De Europese Unie hanteert een meer proactieve aanpak. Commissaris Henna Virkkunen, verantwoordelijk voor het technologiebeleid, heeft verklaard dat de toezichthouders van plan zijn “een duidelijke grens te stellen: je kunt geen zaken doen door de geestelijke gezondheid van mensen te schaden.” Het doel is niet alleen het modereren van inhoud, maar het fundamenteel hervormen van het internet om schadelijke blootstelling aan kinderen te voorkomen. Dit omvat onder meer het beperken van de toegang tot seksueel of gewelddadig materiaal voordat kinderen er klaar voor zijn, en het beteugelen van de manipulatieve algoritmen die dwangmatig gebruik aanmoedigen.
De implicaties zijn aanzienlijk: grote platforms kunnen te maken krijgen met juridische en financiële sancties als ze zich niet aan de regels houden. De drang naar een ‘zachter’ web weerspiegelt een bredere maatschappelijke afrekening met de ongecontroleerde macht van sociale media en de impact ervan op kwetsbare bevolkingsgroepen.
Deze beleidswijziging is essentieel omdat de huidige regelgeving onvoldoende is gebleken. Hoewel bestaande wetten illegale inhoud aanpakken, houden ze vaak geen rekening met de verraderlijke effecten van algoritmische manipulatie en de normalisering van zelfdestructief gedrag online. De inspanningen van de EU vertegenwoordigen een cruciale poging om in het digitale tijdperk het welzijn van kinderen voorrang te geven boven bedrijfswinsten.
