Meta sieht sich weitreichenden Einschränkungen hinsichtlich der Arbeitsweise von Facebook und Instagram für junge Nutzer in New Mexico gegenüber, nachdem ein Richter festgestellt hat, dass die Plattformen des Unternehmens eine öffentliche Belästigung darstellen und 567 Millionen Dollar an einen Fonds zur psychischen Gesundheit von Jugendlichen spenden muss.
Die Entscheidung von Richter Bryan Biedscheid in Santa Fe geht über finanzielle Strafen hinaus. In den nächsten fünf Jahren wird Meta verpflichtet sein, eine Reihe von Schutzmaßnahmen umzusetzen, die regeln, wie Minderjährige in New Mexico mit seinen sozialen Netzwerken, anderen Nutzern und KI-Funktionen interagieren.
Zu den vom Gericht angeordneten Maßnahmen gehören monatliche Beschränkungen für die Nutzung von Facebook und Instagram durch Jugendliche, strengere Benachrichtigungsbeschränkungen und stärkere Hürden, die potenziell unangemessenen Kontakt zwischen Erwachsenen und Minderjährigen verhindern. Meta muss außerdem den Umgang mit Meldungen über sexuellen Kindesmissbrauch verbessern und zusätzliche Schutzmaßnahmen für KI-Chatbots einführen.
Die KI-Bestimmungen verlangen ausdrücklich, dass Meta Minderjährige im Bundesstaat daran hindert, romantische oder sexualisierte Gespräche mit seinen Chatbots zu führen. Erwachsene müssen außerdem daran gehindert werden, die KI-Systeme des Unternehmens zu nutzen, um sexualisierte Interaktionen mit Kindern zu simulieren oder zu diskutieren.
Das Urteil stellt einen großen Sieg für den Generalstaatsanwalt von New Mexico, Raúl Torrez, dessen Fall argumentierte, dass Meta absichtlich Produkte entworfen habe, die zu übermäßigem Engagement unter jungen Menschen förderten, dabei aber die Risiken sexueller Ausbeutung nicht angemessen adressierten.
Meta bestreitet diese Vorwürfe und plant, Berufung einzulegen. Das Unternehmen betont, dass es umfangreich in den Schutz von Jugendlichen und die Entfernung schädlicher Materialien aus seinen Dienstleistungen investiert hat.
Die Entscheidung vom Donnerstag folgt auf ein separates Urteil aus einer früheren Phase desselben Rechtsstreits. Vor fünf Monaten sprach eine Jury in New Mexico 375 Millionen Dollar zu, nachdem sie zu dem Schluss kam, dass Meta gegen das Verbraucherschutzgesetz des Bundesstaates verstoßen hatte, indem sie die Sicherheit von Facebook und Instagram für jüngere Nutzer äußerte.
Das jüngste Verfahren konzentrierte sich auf eine andere rechtliche Frage: ob Metas Plattformen nach dem Recht von New Mexico eine öffentliche Belästigung darstellen. Traditionell wurde diese Doktrin mit Verhalten in Verbindung gebracht, das gemeinsame öffentliche Interessen betrifft, einschließlich Verschmutzung oder Behinderung öffentlicher Räume. Regierungen versuchen zunehmend, dasselbe Prinzip auf Branchen anzuwenden, denen vorgeworfen wird, größere gesellschaftliche Schäden zu verursachen.
Biedscheid kam zu dem Schluss, dass die angeblichen Folgen der Meta-Produkte über einzelne Nutzer hinausgehen und Familien, Schulen, Krankenhäuser, Strafverfolgungsbehörden und die breite Gemeinschaft betreffen.
Meta stellte diese Interpretation in Frage. Es argumentierte, dass der Betrieb sozialer Medien kein traditionelles öffentliches Recht beeinträchtigt, und stellte fest, dass junge Menschen zahlreiche konkurrierende Online-Dienste nutzen. Das Unternehmen bezeichnete zudem einige der von New Mexico vorgeschlagenen Lösungen als technisch unpraktikabel.
Der Richter gewährte nicht alle vom Staat geforderten Beschränkungen. Vorgeschlagene Maßnahmen zu Metas Empfehlungsalgorithmen und Funktionen wie Autoplay und unendlichem Scrollen wurden abgelehnt. Das Gericht stellte fest, dass die Einführung dieser Änderungen Bedenken hinsichtlich des ersten Verfassungszusatzes aufwerfen, Metas Wettbewerbsposition beeinträchtigen und potenziell mit den durch Abschnitt 230 des Communications Decency Act vorgesehenen Schutzmaßnahmen kollidieren könnte.
Meta hatte sich separat auf Section 230 als Verteidigung gegen die umfassendere Klage berufen und argumentiert, dass das Bundesrecht Online-Dienste im Allgemeinen vor Haftung schützt, die sich aus von ihren Nutzern erstellten Inhalten ergeben. Biedscheid wies dieses Argument in Bezug auf die zentralen Ansprüche des Bundesstaates zurück und stellte fest, dass New Mexico Metas eigenes Produktdesign und die Funktionalität der Plattform infrage stelle, anstatt zu versuchen, es rechtlich für die Veröffentlichung von Drittanbieter-Inhalten verantwortlich zu machen.
Der Fall könnte Folgen weit über New Mexico hinaus haben. Mehr als 40 Bundesstaaten und 1.300 Schulbezirke haben öffentliche Belästigungsklagen gegen soziale Medienunternehmen eingereicht, wobei viele sowohl finanzielle Entschädigungen als auch Änderungen an der Art und Weise fordern, wie Plattformen für Kinder gestaltet werden.
Meta steht gleichzeitig mit anderen Fällen der Jugendsicherheit konfrontiert. Ein Bundesprozess mit Forderungen aus 29 Bundesstaaten ist in Oakland, Kalifornien, angesetzt, während bereits separate Klagen von Tennessee andauern.
Derzeit sticht die Anordnung aus New Mexico hervor, weil sie eine erhebliche finanzielle Förderung mit detaillierten Anforderungen für die Erfahrung junger Nutzer sozialer Medien kombiniert. Ob diese Anforderungen erhalten bleiben, hängt teilweise von Metas geplanter Berufung ab, die auch beeinflussen könnte, wie andere Gerichte ähnliche Versuche angehen, öffentliche Belästigungsgesetze gegen soziale Medienplattformen anzuwenden.