Meta affronta restrizioni radicali su come Facebook e Instagram operano per i giovani utenti in New Mexico dopo che un giudice statale ha stabilito che le piattaforme dell’azienda creavano un disturbo pubblico e le ha ordinato di contribuire con 567 milioni di dollari a un fondo dedicato alla salute mentale degli adolescenti.
La decisione del giudice Bryan Biedscheid a Santa Fe va oltre le sanzioni finanziarie. Per i prossimi cinque anni, Meta dovrà implementare una serie di protezioni che regolano come i minori in New Mexico interagiscono con i suoi social network, altri utenti e le funzionalità di intelligenza artificiale.
Tra le misure imposte dal tribunale vi sono limiti mensili all’uso di Facebook e Instagram da parte degli adolescenti, restrizioni più severe sulle notifiche e barriere più forti che prevengono contatti potenzialmente inappropriati tra adulti e minorenni. Meta deve inoltre migliorare la gestione delle segnalazioni di abusi sessuali su minori e introdurre ulteriori salvaguardie riguardo ai chatbot IA.
Le disposizioni sull’IA richiedono specificamente a Meta di impedire ai minori dello stato di avere conversazioni romantiche o sessualizzate con i suoi chatbot. Gli adulti devono inoltre essere impediti di utilizzare i sistemi di IA dell’azienda per simulare o discutere interazioni sessualizzate che coinvolgono bambini.
La sentenza rappresenta una grande vittoria per il procuratore generale del New Mexico Raúl Torrez, il cui caso sosteneva che Meta progettasse deliberatamente prodotti che incoraggiassero un coinvolgimento eccessivo tra i giovani senza affrontare adeguatamente i rischi di sfruttamento sessuale.
Meta contesta tali accuse e intende fare ricorso. L’azienda sostiene di aver investito ampiamente nella protezione degli adolescenti e nella rimozione di materiali nocivi dai suoi servizi.
La decisione di giovedì segue un verdetto separato rispetto a una fase precedente della stessa controversia legale. Cinque mesi fa, una giuria del New Mexico ha assegnato 375 milioni di dollari dopo aver concluso che Meta violava la legge statale sulla protezione dei consumatori attraverso dichiarazioni sulla sicurezza di Facebook e Instagram per gli utenti più giovani.
L’ultimo procedimento si è concentrato su una questione legale diversa: se le piattaforme di Meta costituissero un disturbo pubblico secondo la legge del New Mexico. Tradizionalmente, questa dottrina è stata associata a comportamenti che influenzano interessi pubblici condivisi, inclusi l’inquinamento o l’ostruzione degli spazi pubblici. I governi hanno sempre più cercato di applicare lo stesso principio alle industrie accusate di causare danni sociali più ampi.
Biedscheid concluse che le presunte conseguenze dei prodotti di Meta andavano oltre i singoli utenti, colpendo famiglie, scuole, ospedali, forze dell’ordine e la comunità più ampia.
Meta ha messo in discussione questa interpretazione. Ha sostenuto che gestire piattaforme social media non interferisce con un diritto pubblico tradizionale e ha osservato che i giovani utilizzano numerosi servizi online concorrenti. L’azienda ha inoltre definito alcuni rimedi proposti dal New Mexico come tecnicamente inpraticabili.
Il giudice non ha concesso tutte le restrizioni richieste dallo stato. Gli interventi proposti che coinvolgevano gli algoritmi di raccomandazione di Meta e funzionalità come l’autoplay e lo scorrimento infinito sono stati respinti. La corte ha stabilito che imporre tali modifiche potrebbe sollevare preoccupazioni sul Primo Emendamento, interferire con la posizione competitiva di Meta e potenzialmente essere in conflitto con le tutele previste dalla Sezione 230 del Communications Decency Act.
Meta aveva invocato separatamente la Sezione 230 come difesa contro la causa più ampia, sostenendo che la legge federale generalmente protegge i servizi online dalla responsabilità derivante da contenuti creati dai loro utenti. Biedscheid ha respinto quell’argomentazione in relazione alle rivendicazioni centrali dello stato, stabilendo che il New Mexico stesse mettendo in discussione il design del prodotto e la funzionalità della piattaforma di Meta piuttosto che tentare di renderlo legalmente responsabile della pubblicazione di contenuti di terze parti.
Il caso potrebbe avere conseguenze ben oltre il New Mexico. Più di 40 stati e 1.300 distretti scolastici hanno avviato cause per disturbo pubblico contro aziende di social media, molti dei quali cercano sia un risarcimento finanziario sia cambiamenti nel modo in cui le piattaforme sono progettate per i bambini.
Meta sta contemporaneamente affrontando altri casi di sicurezza giovanile. Un processo federale che coinvolge richieste da 29 stati è programmato a Oakland, California, mentre un contenzioso separato intentato dal Tennessee è già in corso.
Per ora, l’ordine del New Mexico si distingue perché combina un sostanziale fondo di fondo con requisiti dettagliati che regolano l’esperienza dei giovani utenti dei social media. Se tali requisiti rimarranno intatti dipenderà in parte dal ricorso previsto da Meta, che potrebbe anche influenzare il modo in cui altri tribunali affronteranno tentativi simili di utilizzare la legge sulla nozzeria pubblica contro le piattaforme social.