Une mère italienne a rejoint un procès historique contre Meta et TikTok, alléguant que les algorithmes de recommandation de la plateforme ont à plusieurs reprises exposé sa fille de 12 ans à l’automutilation et à des contenus dépressifs avant que la fillette ne meure par suicide.
L’affaire porte sur Rossella, une fillette de 12 ans originaire du nord de l’Italie dont les parents affirment que son activité en ligne a radicalement changé dans les mois précédant sa mort. Selon la famille, les réseaux sociaux recommandaient continuellement des contenus de plus en plus nuisibles après qu’elle ait commencé à chercher des contenus liés à la dépression et à la détresse émotionnelle.
Ce n’est qu’après la mort de leur fille que ses parents ont découvert l’étendue de son usage des réseaux sociaux. Ils ont découvert que Rossella avait créé un compte Instagram secret et consommait bien plus de contenu en ligne qu’ils ne le pensaient.
Sa mère, Irene Roggero Ugues, affirme que les systèmes de recommandation ont amplifié les difficultés de sa fille en lui fournissant à plusieurs reprises des contenus similaires lorsqu’elle s’y intéressait. La famille soutient que les recommandations pilotées par algorithmes ont créé une boucle de rétroaction qui a intensifié les difficultés émotionnelles de Rossella au fil du temps.
Cette plainte fait partie de ce qui serait considéré comme la première action collective en Italie visant directement de grandes entreprises de réseaux sociaux pour des préjugés dommages causés à des mineurs par des recommandations algorithmiques.
Plusieurs familles ont rejoint l’affaire, réclamant des protections renforcées pour les enfants, des restrictions plus strictes à l’accès des mineurs aux réseaux sociaux, et une plus grande transparence quant au fonctionnement des systèmes de recommandation.
Meta et TikTok rejettent fermement ces allégations. Les deux entreprises affirment supprimer activement les contenus promouvant l’automutilation, le suicide et d’autres comportements nuisibles. Ils soulignent également des mesures de sécurité conçues spécifiquement pour les jeunes utilisateurs, notamment des restrictions de contenu, des outils de supervision parentale et des systèmes destinés à limiter l’exposition à des contenus potentiellement dangereux.
Meta a déclaré avoir beaucoup investi dans des dispositifs de sécurité pour les adolescents et a soutenu que la santé mentale des adolescents est influencée par de nombreux facteurs au-delà des réseaux sociaux. TikTok a également déclaré qu’il supprime la grande majorité des contenus qui enfreignent ses politiques et continue d’étendre les mesures de protection visant à protéger les utilisateurs vulnérables.
Le procès intervient alors que les régulateurs européens intensifient la surveillance de la manière dont les plateformes de réseaux sociaux affectent les enfants et les adolescents.
Les gouvernements et les régulateurs se sont de plus en plus préoccupés par les algorithmes de recommandation qui privilégient l’engagement et peuvent à plusieurs reprises faire apparaître des contenus chargés d’émotion. Les critiques soutiennent que de tels systèmes pourraient, sans le vouloir, diriger les utilisateurs vulnérables vers des contenus de plus en plus extrêmes.
La plainte juridique évoque également des préoccupations concernant la nature addictive des réseaux sociaux. Les experts soutenant les plaignants soutiennent que des fonctionnalités telles que les likes, les notifications et le défilement infini sont conçues pour encourager un engagement prolongé en déclenchant à plusieurs reprises des réponses de récompense dans le cerveau.
Certains psychologues mettent cependant en garde contre la conclusion simple sur la relation entre les réseaux sociaux et la santé mentale des adolescents, notant que les expériences individuelles varient significativement et que des facteurs sociaux, familiaux et psychologiques plus larges jouent également un rôle important.
L’affaire devrait devenir un test étroitement suivi pour déterminer si les entreprises de réseaux sociaux peuvent être tenues légalement responsables des préjudices prétendument liés aux systèmes de recommandation algorithmique.