Eine italienische Mutter hat sich einer wegweisenden Klage gegen Meta und TikTok angeschlossen und behauptet, dass die Empfehlungsalgorithmen der Plattformen ihre 12-jährige Tochter wiederholt Selbstverletzungs- und depressiven Inhalten ausgesetzt haben, bevor das Mädchen durch Suizid starb.
Der Fall dreht sich um Rossella, ein 12-jähriges Mädchen aus Norditalien, deren Eltern sagen, dass sich ihre Online-Aktivitäten in den Monaten vor ihrem Tod dramatisch verändert haben. Laut der Familie empfahlen soziale Medien immer wieder zunehmend schädliche Inhalte, nachdem sie begann, nach Material zu Depressionen und emotionalem Stress zu suchen.
Erst nach dem Tod ihrer Tochter entdeckten ihre Eltern das Ausmaß ihrer Nutzung sozialer Medien. Sie fanden heraus, dass Rossella einen geheimen Instagram-Account erstellt hatte und viel mehr Online-Inhalte konsumiert hatte, als sie gedacht hatten.
Ihre Mutter, Irene Roggero Ugues, behauptet, dass Empfehlungssysteme die Probleme ihrer Tochter verstärkt hätten, indem sie ihr wiederholt ähnliche Inhalte zutüttelten, sobald sie Interesse daran zeigte. Die Familie argumentiert, dass algorithmusgesteuerte Empfehlungen eine Rückkopplungsschleife erzeugten, die Rossellas emotionale Schwierigkeiten im Laufe der Zeit verstärkte.
Die Klage ist Teil dessen, was als Italiens erste kollektive Rechtsklage gilt, die sich direkt gegen große Social-Media-Unternehmen richtet wegen angeblicher Schäden, die Minderjährigen durch algorithmische Empfehlungen zugefügt wurden.
Mehrere Familien haben sich dem Fall angeschlossen und fordern stärkeren Schutz für Kinder, strengere Einschränkungen des Zugangs von Minderjährigen zu sozialen Medien und mehr Transparenz hinsichtlich der Funktionsweise der Empfehlungssysteme.
Meta und TikTok weisen die Vorwürfe entschieden zurück. Beide Unternehmen geben an, dass sie aktiv Inhalte entfernen, die Selbstverletzung, Suizid und anderes schädliches Verhalten fördern. Sie verweisen außerdem auf Sicherheitsmaßnahmen, die speziell für jüngere Nutzer entwickelt wurden, darunter Inhaltsbeschränkungen, Werkzeuge zur elterlichen Überwachung und Systeme, die die Exposition gegenüber potenziell gefährlichem Material begrenzen sollen.
Meta erklärte, es habe stark in Sicherheitsfunktionen für Jugendliche investiert und argumentiert, dass die psychische Gesundheit von Jugendlichen von zahlreichen Faktoren über soziale Medien hinaus beeinflusst werde. TikTok erklärte ähnlich, dass es den Großteil der Inhalte, die gegen seine Richtlinien verstoßen, entfernt und weiterhin die Schutzmaßnahmen zum Schutz schutzbedürftiger Nutzer ausweitet.
Die Klage kommt zu einem Zeitpunkt, an dem die Regulierungsbehörden in ganz Europa verstärkt prüfen, wie soziale Medienplattformen Kinder und Jugendliche beeinflussen.
Regierungen und Regulierungsbehörden sind zunehmend besorgt über Empfehlungsalgorithmen, die Engagement priorisieren und immer wieder emotional aufgeladene Inhalte hervorbringen können. Kritiker argumentieren, dass solche Systeme verletzliche Nutzer unbeabsichtigt zu zunehmend extremem Material lenken könnten.
Die Klageschrift verweist außerdem auf Bedenken hinsichtlich der süchtig machenden Natur sozialer Medien. Experten, die die Kläger unterstützen, argumentieren, dass Funktionen wie Likes, Benachrichtigungen und endloses Scrollen darauf ausgelegt sind, eine längere Interaktion zu fördern, indem sie wiederholt Belohnungsreaktionen im Gehirn auslösen.
Einige Psychologen warnen jedoch davor, einfache Schlüsse über die Beziehung zwischen sozialen Medien und psychischer Gesundheit von Jugendlichen zu ziehen, da individuelle Erfahrungen erheblich variieren und dass auch breitere soziale, familiäre und psychologische Faktoren wichtige Rollen spielen.
Es wird erwartet, dass der Fall zu einem genau beobachteten Test wird, ob soziale Medienunternehmen rechtlich für Schäden verantwortlich gemacht werden können, die angeblich mit algorithmischen Empfehlungssystemen in Verbindung stehen.