Las recientes tragedias y fallos legales están impulsando en Europa un impulso para una regulación más estricta de las plataformas de redes sociales y un entorno en línea fundamentalmente más protector para los jóvenes. El movimiento está impulsado por la creciente evidencia de que los algoritmos y las prácticas de moderación de contenido actuales dañan activamente la salud mental de los niños.
El costo humano del acceso ilimitado
El caso de Marie Le Tiec, una joven francesa de 15 años que se quitó la vida en 2021, pone de relieve los peligros. Su madre, Stéphanie Mistre, descubrió contenido profundamente inquietante en su cuenta de TikTok después de su muerte, incluidas canciones que promueven el suicidio e instrucciones explícitas que reflejan el método que usó Marie. Mistre es ahora un firme defensor de la seguridad en línea y demandante en una demanda contra TikTok, acusando a la plataforma de beneficiarse de las crisis de salud mental de los niños.
Este no es un incidente aislado. Un jurado de California encontró recientemente a Meta y YouTube responsables de diseñar intencionalmente funciones adictivas que dañaban el bienestar mental de un usuario joven. Esta decisión histórica podría abrir la puerta a nuevos litigios en los EE. UU.
Enfoque regulatorio europeo
La Unión Europea está adoptando un enfoque más proactivo. La comisaria Henna Virkkunen, responsable de política tecnológica, ha afirmado que los reguladores pretenden “establecer un límite claro: no se pueden hacer negocios dañando la salud mental de las personas”. El objetivo no es solo moderar el contenido, sino fundamentalmente remodelar Internet para evitar la exposición dañina de los niños. Esto incluye limitar el acceso a material sexual o violento antes de que los niños estén preparados en su desarrollo y frenar los algoritmos manipuladores que fomentan el uso compulsivo.
Las implicaciones son significativas: las principales plataformas pueden enfrentar sanciones legales y financieras si no cumplen. El impulso por una web “más amable” refleja un reconocimiento social más amplio del poder desenfrenado de las redes sociales y su impacto en las poblaciones vulnerables.
Este cambio de política es esencial porque las regulaciones actuales han demostrado ser insuficientes. Si bien las leyes existentes abordan el contenido ilegal, a menudo no tienen en cuenta los efectos insidiosos de la manipulación algorítmica y la normalización de comportamientos autodestructivos en línea. Los esfuerzos de la UE representan un intento crítico de priorizar el bienestar infantil sobre las ganancias corporativas en la era digital.
