Tragedi dan keputusan hukum yang terjadi baru-baru ini mendorong dorongan di Eropa untuk menerapkan peraturan yang lebih ketat terhadap platform media sosial dan lingkungan online yang secara fundamental lebih protektif bagi kaum muda. Gerakan ini dipicu oleh semakin banyaknya bukti bahwa algoritme dan praktik moderasi konten saat ini secara aktif membahayakan kesehatan mental anak-anak.
Kerugian Manusia karena Akses yang Tidak Terkekang
Kasus Marie Le Tiec, seorang gadis Prancis berusia 15 tahun yang bunuh diri pada tahun 2021, menyoroti bahayanya. Ibunya, Stéphanie Mistre, menemukan konten yang sangat meresahkan di feed TikTok-nya setelah kematiannya—termasuk lagu-lagu yang mempromosikan bunuh diri dan instruksi eksplisit yang mencerminkan metode yang digunakan Marie. Mistre sekarang menjadi pendukung vokal untuk keamanan online dan penggugat dalam gugatan terhadap TikTok, menuduh platform tersebut mengambil keuntungan dari krisis kesehatan mental anak-anak.
Ini bukan insiden yang terisolasi. Baru-baru ini juri di California memutuskan Meta dan YouTube bertanggung jawab karena sengaja merancang fitur adiktif yang membahayakan kesehatan mental pengguna muda. Keputusan penting ini dapat membuka pintu bagi litigasi lebih lanjut di AS.
Pendekatan Regulasi Eropa
Uni Eropa mengambil pendekatan yang lebih proaktif. Komisaris Henna Virkkunen, yang bertanggung jawab atas kebijakan teknologi, telah menyatakan bahwa regulator bermaksud untuk “menetapkan batasan yang jelas: Anda tidak dapat melakukan bisnis dengan merugikan kesehatan mental masyarakat.” Tujuannya bukan sekadar moderasi konten, namun secara mendasar membentuk kembali internet untuk mencegah paparan berbahaya terhadap anak-anak. Hal ini termasuk membatasi akses terhadap materi seksual atau kekerasan sebelum anak-anak siap secara perkembangan, dan membatasi algoritma manipulatif yang mendorong penggunaan kompulsif.
Implikasinya sangat signifikan: platform besar mungkin akan menghadapi sanksi hukum dan finansial jika gagal mematuhinya. Dorongan untuk menciptakan jaringan yang “lebih lembut” mencerminkan pertimbangan masyarakat yang lebih luas terhadap kekuatan media sosial yang tidak terkendali dan dampaknya terhadap kelompok rentan.
Pergeseran kebijakan ini penting karena peraturan yang ada saat ini terbukti tidak memadai. Meskipun undang-undang yang ada menangani konten ilegal, undang-undang tersebut sering kali gagal memperhitungkan dampak berbahaya dari manipulasi algoritmik dan normalisasi perilaku online yang merusak diri sendiri. Upaya UE merupakan upaya penting untuk memprioritaskan kesejahteraan anak dibandingkan keuntungan perusahaan di era digital.
