Een Italiaanse moeder heeft zich aangesloten bij een baanbrekende rechtszaak tegen Meta en TikTok, waarin wordt beweerd dat de aanbevelingsalgoritmes van de platforms haar 12-jarige dochter herhaaldelijk blootstelden aan zelfbeschadiging en depressieve inhoud voordat het meisje zelfmoord pleegde.
De zaak draait om Rossella, een 12-jarig meisje uit Noord-Italië wiens ouders zeggen dat haar online activiteiten in de maanden voorafgaand aan haar dood drastisch zijn veranderd. Volgens de familie werden sociale mediaplatforms continu steeds schadelijker content aanbevolen nadat ze begon te zoeken naar materiaal gerelateerd aan depressie en emotionele stress.
Pas na de dood van hun dochter ontdekten haar ouders de omvang van haar gebruik van sociale media. Ze ontdekten dat Rossella een geheim Instagram-account had aangemaakt en veel meer online content consumeerde dan ze hadden gedacht.
Haar moeder, Irene Roggero Ugues, beweert dat aanbevelingssystemen de problemen van haar dochter hebben versterkt door haar herhaaldelijk vergelijkbare inhoud te geven zodra ze interesse toonde. De familie stelt dat door algoritmes gedreven aanbevelingen een feedbackloop creëerden die Rossella’s emotionele problemen in de loop van de tijd verergerde.
De rechtszaak maakt deel uit van wat wordt beschouwd als Italië’s eerste collectieve rechtszaak die direct gericht is op grote sociale mediabedrijven vanwege vermeende schade aan minderjarigen via algoritmische aanbevelingen.
Verschillende gezinnen hebben zich bij de zaak aangesloten en eisen sterkere bescherming voor kinderen, strengere beperkingen op de toegang van minderjarigen tot sociale mediaplatforms en meer transparantie over hoe aanbevelingssystemen functioneren.
Meta en TikTok wijzen de beschuldigingen krachtig af. Beide bedrijven zeggen dat ze actief inhoud verwijderen die zelfbeschadiging, zelfmoord en ander schadelijk gedrag bevordert. Ze wijzen ook op veiligheidsmaatregelen die specifiek voor jongere gebruikers zijn ontworpen, waaronder inhoudsbeperkingen, ouderlijke toezicht en systemen die bedoeld zijn om blootstelling aan potentieel gevaarlijk materiaal te beperken.
Meta zei dat het zwaar heeft geïnvesteerd in tienerveiligheidsfuncties en stelde dat de mentale gezondheid van adolescenten wordt beïnvloed door tal van factoren buiten sociale media. TikTok verklaarde op vergelijkbare wijze dat het de overgrote meerderheid van de inhoud die in strijd is met het beleid verwijdert en de waarborgen blijft uitbreiden die gericht zijn op het beschermen van kwetsbare gebruikers.
De rechtszaak komt terwijl toezichthouders in heel Europa de controle op sociale mediaplatforms vergroten op hoe sociale mediaplatforms kinderen en tieners beïnvloeden.
Overheden en toezichthouders maken zich steeds meer zorgen over aanbevelingsalgoritmen die betrokkenheid prioriteren en herhaaldelijk emotioneel geladen inhoud naar boven kunnen brengen. Critici stellen dat dergelijke systemen onbedoeld kwetsbare gebruikers naar steeds extremere materialen kunnen leiden.
De juridische klacht verwijst ook naar zorgen over het verslavende karakter van sociale media. Deskundigen die de eisers ondersteunen, stellen dat functies zoals likes, meldingen en eindeloos scrollen bedoeld zijn om langdurige betrokkenheid aan te moedigen door herhaaldelijk beloningsreacties in de hersenen te activeren.
Sommige psychologen waarschuwen echter om eenvoudige conclusies te trekken over de relatie tussen sociale media en de geestelijke gezondheid van adolescenten, en merken op dat individuele ervaringen sterk variëren en dat bredere sociale, familiale en psychologische factoren ook een belangrijke rol spelen.
De zaak wordt naar verwachting een nauwlettend gevolgd test om te bepalen of sociale mediabedrijven juridisch aansprakelijk kunnen worden gesteld voor schade die naar verluidt verband houdt met algoritmische aanbevelingssystemen.