Grandes plataformas de redes sociais, incluindo Meta, TikTok, X, Reddit e Snapchat, agora são legalmente obrigadas a remover pornografia deepfake e imagens íntimas não consensuais em até 48 horas após receberem um boletim válido das vítimas.
A exigência está prevista na recém-aplicada Lei Take It Down, uma lei federal criada para combater a rápida disseminação de deepfakes sexuais gerados por IA e pornografia de vingança online. A legislação entrou oficialmente em vigor total esta semana, depois que as plataformas receberam um prazo de um ano para conformidade para construir sistemas de relatórios e remoções.
De acordo com a lei, plataformas online que não removerem conteúdos reportados dentro do prazo exigido podem enfrentar multas de até $53.088 por violação. As regras se aplicam tanto a imagens íntimas autênticas compartilhadas sem consentimento quanto a deepfakes sexualmente explícitos gerados por IA.
A Comissão Federal de Comércio é responsável por aplicar a lei e já emitiu lembretes de conformidade para grandes empresas de tecnologia antes do prazo de aplicação. Empresas que teriam sido contatadas por reguladores incluem Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap e Alphabet.
A lei representa uma das respostas federais mais fortes até agora ao crescente abuso de ferramentas de IA generativa usadas para criar imagens e vídeos explícitos falsos. A tecnologia de deepfake tornou-se cada vez mais acessível nos últimos dois anos, permitindo que os usuários gerem conteúdo realista e não consensual com conhecimento técnico mínimo.
Vítimas de abuso de deepfake há muito lutam para forçar as plataformas a remover rapidamente conteúdos prejudiciais, especialmente quando imagens se espalham por múltiplos serviços simultaneamente. A nova lei exige que as empresas forneçam ferramentas claras de relatórios e ajam rapidamente assim que solicitações válidas de remoção forem enviadas.
A legislação foi parcialmente inspirada por vários incidentes de abuso deepfake de grande repercussão envolvendo celebridades, estudantes e menores. Nos últimos anos, imagens explícitas geradas por IA, direcionadas a figuras públicas e indivíduos privados, se espalharam amplamente pelas redes sociais, gerando pressão por uma regulamentação mais rigorosa.
Pesquisadores continuam alertando que o abuso de deepfake está evoluindo mais rápido do que os sistemas atuais de detecção. Vários estudos acadêmicos recentes descobriram que muitas manipulações geradas por IA continuam difíceis tanto para humanos quanto para ferramentas automatizadas de identificarem de forma consistente, especialmente entre formatos de vídeo e áudio.
Governos tanto nos Estados Unidos quanto na Europa estão aumentando a pressão sobre empresas de tecnologia para responderem de forma mais agressiva ao abuso gerado por IA, especialmente ao conteúdo envolvendo assédio, chantagem, exploração sexual e imagens não consensuais.