Nedávné tragédie a soudní rozhodnutí tlačí Evropu ke zpřísnění regulace sociálních médií a vytvoření zásadně bezpečnějšího online prostředí pro mladé lidi. Hnutí přichází, když přibývá důkazů, že stávající algoritmy a postupy moderování obsahu aktivně poškozují duševní zdraví dětí.
Lidské náklady na neomezený přístup
Případ Marie Le Tech, 15leté francouzské dívky, která spáchala sebevraždu v roce 2021, upozorňuje na nebezpečí. Její matka Stephanie Mistre po své smrti objevila na svém kanálu TikTok extrémně znepokojivý obsah, včetně písní propagujících sebevraždu a jasných pokynů, které odrážely metodu, kterou Marie použila. Mister je nyní hlasitým zastáncem online bezpečnosti a žalobcem v případu proti TikTok a obviňuje platformu, že profituje z krizí v oblasti duševního zdraví dětí.
Toto není ojedinělý incident. Porota v Kalifornii nedávno uznala Meta a YouTube vinnými ze záměrného navrhování návykových funkcí, které poškozovaly duševní pohodu mladého uživatele. Přelomové rozhodnutí by mohlo otevřít dveře dalším soudním sporům v USA.
Evropský regulační přístup
Evropská unie zaujímá proaktivnější přístup. Komisařka Henna Virkkunenová, odpovědná za technologickou politiku, uvedla, že regulační orgány mají v úmyslu „stanovit jasný limit: nemůžete podnikat způsobem, který poškozuje duševní zdraví lidí“. Cílem je nejen moderovat obsah, ale také zásadně změnit internet, aby se předešlo škodlivým vlivům na děti. To zahrnuje omezení přístupu k sexuálnímu nebo násilnému obsahu, dokud nejsou děti dostatečně vyspělé, a potlačení manipulativních algoritmů, které podporují nutkavé užívání.
Důsledky jsou značné: velké platformy by mohly čelit právním a finančním postihům, pokud nebudou dodržovat pravidla. Snaha o měkčí web odráží širší veřejné povědomí o nekontrolované síle sociálních médií a jejich dopadu na zranitelné skupiny obyvatel.
Tato změna politiky je nezbytná, protože se stávající pravidla ukázala jako nedostatečná. Současné zákony sice řeší problémy nelegálního obsahu, ale často selhávají v řešení zákeřných efektů algoritmické manipulace a normalizace sebedestruktivního chování online. Úsilí EU představuje zásadní pokus upřednostnit blaho dětí před zisky podniků v digitálním věku.
