Meta wordt geconfronteerd met ingrijpende beperkingen op hoe Facebook en Instagram opereren voor jonge gebruikers in New Mexico nadat een staatsrechter oordeelde dat de platforms van het bedrijf een openbare overlast veroorzaakten en het bedrijf beval 567 miljoen dollar bij te dragen aan een fonds voor geestelijke gezondheid van tieners.
De beslissing van rechter Bryan Biedscheid in Santa Fe gaat verder dan alleen financiële boetes. De komende vijf jaar zal Meta verplicht zijn een reeks beschermingen in te voeren die bepalen hoe minderjarigen in New Mexico omgaan met haar sociale netwerken, andere gebruikers en kunstmatige intelligentiefuncties.
Onder de maatregelen die de rechtbank heeft opgelegd, bevinden zich maandelijkse beperkingen op het gebruik van Facebook en Instagram door tieners, strengere beperkingen op meldingen en strengere barrières die mogelijk ongepast contact tussen volwassenen en minderjarigen voorkomen. Meta moet ook de omgang verbeteren met meldingen van seksueel misbruik van kinderen en extra waarborgen introduceren rond AI-chatbots.
De AI-bepalingen vereisen specifiek dat Meta minderjarigen in de staat verbiedt romantische of geseksualiseerde gesprekken te voeren met haar chatbots. Volwassenen moeten ook worden verhinderd om de AI-systemen van het bedrijf te gebruiken om geseksualiseerde interacties met kinderen te simuleren of te bespreken.
Het vonnis is een grote overwinning voor de procureur-generaal van New Mexico, Raúl Torrez, wiens zaak stelde dat Meta opzettelijk producten ontwierp die overmatige betrokkenheid onder jongeren aanmoedigden, terwijl ze de risico’s van seksuele uitbuiting niet adequaat aanpakten.
Meta betwist deze beschuldigingen en is van plan in beroep te gaan. Het bedrijf stelt dat het uitgebreid heeft geïnvesteerd in het beschermen van tieners en het verwijderen van schadelijk materiaal uit zijn diensten.
De beslissing van donderdag volgt op een apart vonnis van een eerdere fase van hetzelfde juridische geschil. Vijf maanden geleden kende een jury in New Mexico 375 miljoen dollar toe nadat zij hadden geconcludeerd dat Meta de consumentenbeschermingswet van de staat had geschonden door verklaringen over de veiligheid van Facebook en Instagram voor jongere gebruikers.
De laatste procedure richtte zich op een andere juridische vraag: of de platforms van Meta volgens de wet van New Mexico een openbare hinder vormden. Traditioneel werd die doctrine geassocieerd met gedrag dat gedeelde publieke belangen raakte, waaronder vervuiling of belemmering van openbare ruimtes. Overheden proberen steeds vaker hetzelfde principe toe te passen op sectoren die worden beschuldigd van het veroorzaken van bredere maatschappelijke schade.
Biedscheid concludeerde dat de vermeende gevolgen van Meta’s producten verder gingen dan individuele gebruikers en ook families, scholen, ziekenhuizen, wetshandhaving en de bredere gemeenschap raakten.
Meta daagde die interpretatie uit. Het stelde dat het exploiteren van sociale mediaplatforms geen inbreuk maakt op een traditioneel publiek recht en merkte op dat jongeren talrijke concurrerende online diensten gebruiken. Het bedrijf karakteriseerde ook enkele van New Mexico’s voorgestelde oplossingen als technisch onwerkbaar.
De rechter gaf niet alle door de staat gevraagde beperkingen toe. Voorgestelde interventies met Meta’s aanbevelingsalgoritmen en functies zoals autoplay en oneindig scrollen werden afgewezen. De rechtbank oordeelde dat het opleggen van deze wijzigingen zorgen over het Eerste Amendement kon oproepen, de concurrentiepositie van Meta kon verstoren en mogelijk in strijd zou zijn met de bescherming die wordt geboden door Sectie 230 van de Communications Decency Act.
Meta had afzonderlijk Sectie 230 aangeroepen als verdediging tegen de bredere rechtszaak, met het argument dat de federale wet online diensten over het algemeen beschermt tegen aansprakelijkheid die voortvloeit uit inhoud die door hun gebruikers is gemaakt. Biedscheid verwierp dat argument met betrekking tot de centrale claims van de staat en stelde vast dat New Mexico het eigen productontwerp en de functionaliteit van het platform van Meta aanvocht in plaats van te proberen het juridisch verantwoordelijk te maken voor het publiceren van content van derden.
De zaak kan gevolgen hebben die verder reiken dan New Mexico. Meer dan 40 staten en 1.300 schooldistricten hebben een rechtszaak aangespannen tegen sociale mediabedrijven, waarbij velen zowel financiële compensatie als veranderingen in de manier waarop platforms voor kinderen worden ontworpen eist.
Meta staat tegelijkertijd voor andere zaken rond jeugdveiligheid. Een federaal proces met claims uit 29 staten staat gepland in Oakland, Californië, terwijl een aparte rechtszaak door Tennessee al gaande is.
Voor nu valt de New Mexico-order op omdat deze een aanzienlijke financiële premie combineert met gedetailleerde vereisten voor de ervaring van jonge gebruikers van sociale media. Of die vereisten van kracht blijven, hangt deels af van Meta’s geplande beroep, wat ook kan beïnvloeden hoe andere rechtbanken soortgelijke pogingen om publieke overlast in te zetten tegen sociale mediaplatforms benaderen.