Una madre italiana se ha sumado a una demanda histórica contra Meta y TikTok, alegando que los algoritmos de recomendación de las plataformas expusieron repetidamente a su hija de 12 años a autolesiones y contenido depresivo antes de que la niña muriera por suicidio.
El caso se centra en Rossella, una niña de 12 años del norte de Italia cuyos padres afirman que su actividad en línea cambió drásticamente en los meses previos a su muerte. Según la familia, las plataformas de redes sociales recomendaban continuamente contenido cada vez más dañino después de que ella comenzara a buscar material relacionado con la depresión y el malestar emocional.
Solo tras la muerte de su hija sus padres descubrieron el alcance del uso de sus redes sociales. Descubrieron que Rossella había creado una cuenta secreta de Instagram y había estado consumiendo mucho más contenido online del que pensaban.
Su madre, Irene Roggero Ugues, alega que los sistemas de recomendación amplificaron las dificultades de su hija al alimentarla repetidamente con contenido similar una vez que mostró interés en él. La familia sostiene que las recomendaciones basadas en algoritmos crearon un bucle de retroalimentación que intensificó las dificultades emocionales de Rossella con el tiempo.
La demanda forma parte de lo que se cree que es la primera acción legal colectiva en Italia dirigida directamente a grandes empresas de redes sociales por supuestos daños causados a menores mediante recomendaciones algorítmicas.
Varias familias se han sumado al caso, pidiendo mayores protecciones para los niños, límites más estrictos al acceso de menores a las redes sociales y mayor transparencia sobre cómo funcionan los sistemas de recomendación.
Meta y TikTok rechazan rotundamente las acusaciones. Ambas empresas afirman que eliminan activamente contenido que promueva autolesiones, suicidio y otros comportamientos dañinos. También señalan medidas de seguridad diseñadas específicamente para usuarios más jóvenes, incluyendo restricciones de contenido, herramientas de supervisión parental y sistemas destinados a limitar la exposición a material potencialmente peligroso.
Meta afirmó que ha invertido fuertemente en funciones de seguridad para adolescentes y argumentó que la salud mental adolescente está influida por numerosos factores más allá de las redes sociales. TikTok también declaró que elimina la gran mayoría del contenido que viola sus políticas y continúa ampliando las salvaguardas destinadas a proteger a los usuarios vulnerables.
La demanda llega mientras los reguladores de toda Europa aumentan el escrutinio sobre cómo las plataformas de redes sociales afectan a niños y adolescentes.
Los gobiernos y reguladores están cada vez más preocupados por los algoritmos de recomendación que priorizan la participación y pueden reaparecer repetidamente contenido cargado de emociones. Los críticos argumentan que estos sistemas pueden, sin querer, dirigir a los usuarios vulnerables hacia materiales cada vez más extremos.
La demanda legal también hace referencia a preocupaciones sobre la naturaleza adictiva de las redes sociales. Los expertos que apoyan a los demandantes argumentan que funciones como los ‘me gusta’, las notificaciones y el desplazamiento interminable están diseñadas para fomentar un compromiso prolongado al desencadenar repetidamente respuestas de recompensa en el cerebro.
Sin embargo, algunos psicólogos advierten contra sacar conclusiones simples sobre la relación entre las redes sociales y la salud mental adolescente, señalando que las experiencias individuales varían significativamente y que factores sociales, familiares y psicológicos más amplios también juegan un papel importante.
Se espera que el caso se convierta en una prueba muy seguida para determinar si las empresas de redes sociales pueden ser legalmente responsables por daños supuestamente vinculados a sistemas algorítmicos de recomendación.