Vijf Britse families hebben een rechtszaak wegens onrechtmatige dood aangespannen tegen het sociale mediaplatform TikTok, eigendom van het Chinese technologiebedrijf ByteDance, bij de Superior Court van de staat Delaware. De ouders beweren dat de contentaanbevelingssystemen van het platform gevaarlijke “grap- en uitdaging”-video’s aan hun kinderen hebben doorgegeven, wat heeft bijgedragen aan hun dood nadat ze zelfwurgingsuitdagingen hadden geprobeerd. De zaak staat gepland voor een eerste zitting over een verzoek tot afwijzing.
De rechtszaak werd aangespannen namens de nalatenschappen van vijf kinderen tussen de 11 en 14 jaar die in 2022 zijn overleden. De families stellen dat de algoritmes van TikTok schadelijk materiaal naar de kinderfeeds hebben “geselecteerd en geduwd”, waaronder inhoud gerelateerd aan een zogenaamde blackout-uitdaging. De blackout-uitdaging is een internetstunt die in mediaberichten wordt gelinkt aan verschillende kinderdodelijke slachtoffers en omvat opzettelijk wurgen om bewusteloosheid te veroorzaken.
De klacht stelt dat de aanbevelingssystemen van het platform minderjarigen “targetten” en hen vervolgens “overspoelden” met gevaarlijke video’s op de For You-pagina van de app, de gepersonaliseerde contentfeed van TikTok. De families zeggen dat deze blootstelling heeft bijgedragen aan de beslissing van de kinderen om zichzelf te wurgen. Ze hebben toegang gevraagd tot interne platformgegevens die kunnen laten zien aan welke inhoud elk kind vóór zijn dood is blootgesteld, maar beweren dat veel van deze gegevens sindsdien zijn verwijderd onder de gegevensbewaringspraktijken van TikTok. TikTok heeft gezegd dat de blackout-uitdaging in 2020 op het platform is verboden en dat er geen bewijs is gevonden dat het trending is.
TikTok stelt dat het inhoud verbiedt die gevaarlijk gedrag promoot of aanmoedigt en dat het de meerderheid van overtredingen verwijdert voordat ze worden gemeld. Het bedrijf probeert de rechtszaak te laten seponeren op grond van jurisdictie en andere juridische gronden. Als het verzoek tot afwijzing wordt afgewezen, gaat de zaak verder naar een fase die bekend staat als discovery, waarin de rechtbank TikTok kan dwingen interne gegevens en relevante accountinformatie openbaar te maken. De families zeggen dat ze niet primair financiële compensatie zoeken, maar duidelijkheid willen over wat hun kinderen online hebben gezien en het bedrijf verantwoordelijk willen houden voor het inhoudsbeleid.
De juridische actie van de ouders benadrukt lopende discussies over de verantwoordelijkheden van sociale mediabedrijven bij het modereren van schadelijke inhoud die minderjarigen kan bereiken. In het Verenigd Koninkrijk hebben sommige ouders ook campagne gevoerd voor wetswijzigingen die het bewaren van online gegevens van een overleden kind vereisen, een voorstel dat door aanhangers wordt aangeduid als “Jools’ law,” genoemd naar een van de overleden kinderen. Zij stellen dat automatische bewaring van digitale gegevens kan helpen om antwoorden te geven en soortgelijke gevallen in de toekomst te voorkomen.
De rechtszaak volgt op andere zaken in de Verenigde Staten waarin rechtbanken hebben onderzocht of platformaanbevelingssystemen onder wettelijke bescherming vallen die online diensten beschermen tegen aansprakelijkheid voor inhoud van derden. Een uitspraak uit 2024 van het United States Court of Appeals for the Third Circuit oordeelde dat algoritmische aanbevelingen als de eigen activiteit van het platform kunnen worden behandeld in plaats van louter derde-partijinhoud, wat invloed heeft op hoe immuniteit onder de Amerikaanse wet van toepassing is.