Uma mãe italiana se juntou a um processo histórico contra a Meta e o TikTok, alegando que os algoritmos de recomendação das plataformas expuseram repetidamente sua filha de 12 anos a automutilação e conteúdo depressivo antes que a menina morresse por suicídio.
O caso gira em torno de Rossella, uma garota de 12 anos do norte da Itália cujos pais dizem que sua atividade online mudou drasticamente nos meses que antecederam sua morte. Segundo a família, as redes sociais recomendavam continuamente conteúdos cada vez mais prejudiciais depois que ela começou a buscar conteúdos relacionados à depressão e ao sofrimento emocional.
Só após a morte da filha é que os pais descobriram a extensão do uso das redes sociais dela. Eles descobriram que Rossella havia criado uma conta secreta no Instagram e estava consumindo muito mais conteúdo online do que imaginavam.
Sua mãe, Irene Roggero Ugues, alega que sistemas de recomendação amplificaram as dificuldades da filha ao alimentá-la repetidamente com conteúdo semelhante depois que ela demonstrou interesse por isso. A família argumenta que recomendações orientadas por algoritmos criaram um ciclo de retroalimentação que intensificou as dificuldades emocionais de Rossella ao longo do tempo.
O processo faz parte do que se acredita ser a primeira ação judicial coletiva da Itália direcionada diretamente a grandes empresas de redes sociais por supostos danos causados a menores por meio de recomendações algorítmicas.
Várias famílias aderiram ao caso, buscando proteções mais fortes para crianças, limites mais rígidos ao acesso de menores às plataformas de redes sociais e maior transparência sobre como os sistemas de recomendação funcionam.
Meta e TikTok rejeitam veementemente as alegações. Ambas as empresas afirmam que removem ativamente conteúdos que promovem automutilação, suicídio e outros comportamentos prejudiciais. Eles também apontam medidas de segurança projetadas especificamente para usuários mais jovens, incluindo restrições de conteúdo, ferramentas de supervisão parental e sistemas destinados a limitar a exposição a materiais potencialmente perigosos.
A Meta afirmou que investiu fortemente em recursos de segurança para adolescentes e argumentou que a saúde mental dos adolescentes é influenciada por diversos fatores além das redes sociais. O TikTok também afirmou que remove a grande maioria do conteúdo que viola suas políticas e continua a expandir as salvaguardas voltadas para proteger usuários vulneráveis.
O processo ocorre enquanto reguladores em toda a Europa intensificam a fiscalização de como as plataformas de mídia social afetam crianças e adolescentes.
Governos e reguladores têm se preocupado cada vez mais com algoritmos de recomendação que priorizam o engajamento e podem repetidamente revelar conteúdos carregados de emoção. Críticos argumentam que tais sistemas podem, sem querer, direcionar usuários vulneráveis para materiais cada vez mais extremos.
A denúncia judicial também faz referência a preocupações sobre a natureza viciante das redes sociais. Especialistas que apoiam os autores argumentam que recursos como curtidas, notificações e rolagem infinita são projetados para incentivar o engajamento prolongado ao ativar repetidamente respostas de recompensa no cérebro.
Alguns psicólogos, no entanto, alertam contra tirar conclusões simples sobre a relação entre redes sociais e saúde mental adolescente, observando que as experiências individuais variam significativamente e que fatores sociais, familiares e psicológicos mais amplos também desempenham papéis importantes.
Espera-se que o caso se torne um teste muito observado para saber se as empresas de redes sociais podem ser responsabilizadas legalmente por danos supostamente ligados a sistemas de recomendação algorítmica.