Cinco famílias britânicas entraram com um processo por morte injusta contra a plataforma de mídia social TikTok, de propriedade da empresa chinesa de tecnologia ByteDance, no Tribunal Superior do Estado de Delaware. Os pais alegam que os sistemas de recomendação de conteúdo da plataforma promoveram vídeos perigosos de “pegadinhas e desafios” para seus filhos, contribuindo para suas mortes após tentarem desafios de autoestrangulamento. O caso está agendado para uma audiência inicial sobre uma moção de arquivamento.
O processo foi movido em nome dos espólios de cinco crianças entre 11 e 14 anos que faleceram em 2022. As famílias argumentam que os algoritmos do TikTok “selecionaram e promoveram” material prejudicial para os feeds das crianças, incluindo conteúdo relacionado a um chamado desafio de blackout. O desafio do apagão é uma manobra na internet ligada em reportagens da mídia a várias mortes de crianças e envolve estrangulamento intencional para induzir a inconsciência.
A denúncia afirma que os sistemas de recomendação da plataforma “miraram” menores e depois os “inundaram” com vídeos perigosos na página For You do aplicativo, o feed personalizado de conteúdo do TikTok. As famílias dizem que essa exposição contribuiu para a decisão das crianças de tentar se estrangular. Eles buscaram acesso a dados internos da plataforma que poderiam mostrar a que conteúdo cada criança foi exposta antes de suas mortes, mas alegam que grande parte desses dados foi deletada sob as práticas de retenção de dados do TikTok. O TikTok afirmou que o desafio de blackout foi banido na plataforma em 2020 e que não encontrou evidências de que ele esteja em alta.
O TikTok argumenta que proíbe conteúdos que promovam ou incentivam comportamentos perigosos e que remove a maioria das violações antes que sejam denunciadas. A empresa está buscando arquivar o processo com base em questões jurisdicionais e outras questões legais. Se o pedido de arquivamento for negado, o caso avançará para uma etapa conhecida como descoberta, onde o tribunal pode obrigar o TikTok a divulgar registros internos e informações relevantes da conta. As famílias dizem que não estão buscando principalmente compensação financeira, mas querem esclarecer o que seus filhos viram online e responsabilizar a empresa por suas políticas de conteúdo.
A ação judicial dos pais destaca debates contínuos sobre as responsabilidades das empresas de mídia social em moderar conteúdos prejudiciais que podem alcançar menores. No Reino Unido, alguns pais também fizeram campanha por mudanças na lei que exigiriam a preservação dos dados online de uma criança falecida, proposta chamada pelos apoiadores de “lei Jools”, nomeada em homenagem a uma das crianças que faleceu. Eles argumentam que a preservação automática de registros digitais poderia ajudar a fornecer respostas e prevenir casos semelhantes no futuro.
O processo segue outros casos nos Estados Unidos em que os tribunais consideraram se sistemas de recomendação de plataformas se enquadram em proteções legais que protegem serviços online de responsabilidade por conteúdo de terceiros. Uma decisão de 2024 do Tribunal de Apelações dos Estados Unidos para o Terceiro Circuito determinou que as recomendações algorítmicas poderiam ser tratadas como atividade própria da plataforma, e não apenas como conteúdo de terceiros, afetando a aplicação da imunidade sob a lei dos EUA.