Meta enfrenta restrições abrangentes sobre como Facebook e Instagram operam para jovens usuários no Novo México após um juiz estadual concluir que as plataformas da empresa criaram um incômodo público e ordenou que ela contribuísse com 567 milhões de dólares para um fundo de saúde mental adolescente.
A decisão do juiz Bryan Biedscheid em Santa Fé vai além das penalidades financeiras. Nos próximos cinco anos, a Meta será obrigada a implementar uma série de proteções que regem como menores no Novo México interagem com suas redes sociais, outros usuários e recursos de inteligência artificial.
Entre as medidas ordenadas pelo tribunal estão limites mensais ao uso do Facebook e Instagram por adolescentes, restrições mais rígidas às notificações e barreiras mais fortes que impedem contatos potencialmente inadequados entre adultos e menores. A Meta também deve melhorar seu tratamento de denúncias envolvendo abuso sexual infantil e introduzir salvaguardas adicionais em torno de chatbots de IA.
As disposições de IA exigem especificamente que a Meta impeça menores do estado de ter conversas românticas ou sexualizadas com seus chatbots. Adultos também devem ser impedidos de usar os sistemas de IA da empresa para simular ou discutir interações sexualizadas envolvendo crianças.
A decisão representa uma grande vitória para o Procurador-Geral do Novo México, Raúl Torrez, cujo caso argumentou que a Meta deliberadamente projetou produtos que incentivavam o engajamento excessivo entre os jovens, sem abordar adequadamente os riscos de exploração sexual.
A Meta contesta essas alegações e planeja recorrer. A empresa afirma que investiu extensivamente na proteção de adolescentes e na remoção de material nocivo de seus serviços.
A decisão de quinta-feira segue um veredito separado de uma fase anterior da mesma disputa legal. Cinco meses atrás, um júri do Novo México concedeu US$ 375 milhões após concluir que a Meta violou a lei estadual de proteção ao consumidor por meio de representações sobre a segurança do Facebook e Instagram para usuários mais jovens.
Os processos mais recentes focaram em uma questão jurídica diferente: se as plataformas da Meta constituíam um incômodo público segundo a lei do Novo México. Tradicionalmente, essa doutrina tem sido associada a condutas que afetam interesses públicos compartilhados, incluindo poluição ou obstrução de espaços públicos. Governos têm tentado cada vez mais aplicar o mesmo princípio a indústrias acusadas de causar danos sociais mais amplos.
Biedscheid concluiu que as supostas consequências dos produtos da Meta iam além dos usuários individuais, afetando famílias, escolas, hospitais, polícia e a comunidade em geral.
A Meta contestou essa interpretação. Argumentou que operar plataformas de redes sociais não interfere em um direito público tradicional e observou que os jovens utilizam diversos serviços online concorrentes. A empresa também caracterizou alguns dos remédios propostos pelo Novo México como tecnicamente inviáveis.
O juiz não concedeu todas as restrições solicitadas pelo estado. Intervenções propostas envolvendo algoritmos de recomendação da Meta e recursos, como reprodução automática e rolagem infinita, foram rejeitadas. O tribunal concluiu que impor essas mudanças poderia levantar preocupações com a Primeira Emenda, interferir na posição competitiva da Meta e potencialmente entrar em conflito com as proteções previstas pela Seção 230 da Lei de Decência nas Comunicações.
A Meta invocou separadamente a Seção 230 como defesa contra o processo mais amplo, argumentando que a lei federal geralmente protege os serviços online contra responsabilidade decorrente de conteúdo criado por seus usuários. Biedscheid rejeitou esse argumento em relação às alegações centrais do estado, determinando que o Novo México estava contestando o design do próprio produto e a funcionalidade da plataforma da Meta, em vez de tentar torná-la legalmente responsável pela publicação de conteúdo de terceiros.
O caso pode ter consequências muito além do Novo México. Mais de 40 estados e 1.300 distritos escolares já entraram com litígios por incômodo público contra empresas de redes sociais, com muitos buscando tanto compensação financeira quanto mudanças na forma como as plataformas são projetadas para crianças.
Meta está simultaneamente enfrentando outros casos de segurança juvenil. Um julgamento federal envolvendo reivindicações de 29 estados está marcado para Oakland, Califórnia, enquanto um litígio separado movido pelo Tennessee já está em andamento.
Por enquanto, a ordem do Novo México se destaca porque combina uma indenização financeira substancial com requisitos detalhados que regem a experiência dos jovens usuários de redes sociais. Se esses requisitos permanecerão intactos dependerá em parte do recurso planejado pela Meta, que também pode influenciar a forma como outros tribunais abordam tentativas semelhantes de usar a lei de incômodo público contra plataformas de redes sociais.