Cinque famiglie britanniche hanno intentato una causa per morte ingiusta contro la piattaforma social TikTok, di proprietà della società tecnologica cinese ByteDance, presso la Corte Superiore dello Stato del Delaware. I genitori sostengono che i sistemi di raccomandazione di contenuti della piattaforma hanno spinto pericolosi video di “scherzi e sfide” ai loro figli, contribuendo alla loro morte dopo che hanno tentato sfide di auto-strangolamento. Il caso è previsto per un’udienza iniziale su una mozione di archiviazione.
La causa è stata intentata a nome delle eredità di cinque bambini di età compresa tra 11 e 14 anni deceduti nel 2022. Le famiglie sostengono che gli algoritmi di TikTok “selezionano e spostano” materiale dannoso nei feed dei bambini, inclusi contenuti relativi a una cosiddetta sfida blackout. La sfida del blackout è una trovata su internet collegata nei resoconti dei media a diverse vittime di bambini e prevede un strangolamento intenzionale per indurre l’incoscienza.
Il reclamo sostiene che i sistemi di raccomandazione della piattaforma hanno “preso di mira” i minori e poi li hanno “inondati” di video pericolosi sulla pagina For You dell’app, il feed personalizzato di TikTok. Le famiglie affermano che questa esposizione ha contribuito alla decisione dei bambini di tentare l’auto-strangolamento. Hanno cercato di accedere a dati interni della piattaforma che potrebbero mostrare a quali contenuti ogni bambino era esposto prima della loro morte, ma sostengono che gran parte di questi dati sia stato successivamente cancellato secondo le pratiche di conservazione dei dati di TikTok. TikTok ha dichiarato che la sfida di blackout è stata vietata sulla piattaforma nel 2020 e che non ha trovato prove che sia tendenza.
TikTok sostiene di vietare contenuti che promuovono o incoraggiano comportamenti pericolosi e che rimuove la maggior parte delle violazioni prima che vengano segnalate. La società sta cercando di archiviare la causa per motivi giurisdizionali e di altro tipo. Se la mozione di archiviazione viene respinta, il caso procederà a una fase nota come discovery, in cui il tribunale può obbligare TikTok a divulgare registri interni e informazioni rilevanti sugli account. Le famiglie affermano di non cercare principalmente un risarcimento economico, ma di chiarire cosa hanno visto i loro figli online e di chiedere conto all’azienda delle sue politiche sui contenuti.
L’azione legale dei genitori mette in evidenza i dibattiti in corso sulle responsabilità delle società di social media nel moderare contenuti dannosi che potrebbero raggiungere i minori. Nel Regno Unito, alcuni genitori hanno anche fatto campagna per modifiche alla legge che richiederebbero la conservazione dei dati online di un bambino deceduto, una proposta chiamata dai sostenitori “legge Jools”, intitolata a uno dei bambini deceduti. Sostengono che la conservazione automatica dei documenti digitali potrebbe aiutare a fornire risposte e prevenire casi simili in futuro.
La causa segue altri casi negli Stati Uniti in cui i tribunali hanno esaminato se i sistemi di raccomandazione delle piattaforme rientrino nelle tutele legali che proteggono i servizi online dalla responsabilità per contenuti di terze parti. Una decisione del 2024 della Corte d’Appello degli Stati Uniti per il Terzo Circuito ha stabilito che le raccomandazioni algoritmiche potevano essere trattate come attività della piattaforma e non come semplici contenuti di terze parti, influenzando l’applicazione dell’immunità secondo la legge statunitense.