Le principali piattaforme social, tra cui Meta, TikTok, X, Reddit e Snapchat, sono ora legalmente obbligate a rimuovere pornografia deepfake e immagini intime non consensuali entro 48 ore dal ricevimento di una segnalazione valida dalle vittime.
Il requisito rientra nel nuovo Take It Down Act, una legge federale pensata per contrastare la rapida diffusione di deepfake sessuali generati dall’IA e del revenge porn online. La legislazione è stata ufficialmente applicata questa settimana dopo che alle piattaforme è stata concessa una finestra di un anno per la conformità per costruire sistemi di segnalazione e rimozione.
Secondo la legge, le piattaforme online che non rimuovono i contenuti segnalati entro il termine previsto possono rischiare multe fino a 53.088 dollari per ogni violazione. Le regole si applicano sia alle immagini autentiche e intime condivise senza consenso sia ai deepfake sessualmente espliciti generati dall’IA.
La Federal Trade Commission è responsabile dell’applicazione della legge e ha già emesso promemoria di conformità alle principali aziende tecnologiche prima della scadenza dell’applicazione. Le aziende presumibilmente contattate dai regolatori includono Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap e Alphabet.
La legge rappresenta una delle risposte federali più forti finora contro il crescente abuso degli strumenti di IA generativa utilizzati per creare immagini e video espliciti falsi. La tecnologia deepfake è diventata sempre più accessibile negli ultimi due anni, permettendo agli utenti di generare contenuti realistici e non consensuali con competenze tecniche minime.
Le vittime di abusi del deepfake hanno a lungo faticato a costringere le piattaforme a rimuovere rapidamente i contenuti dannosi, specialmente quando le immagini si diffondono simultaneamente su più servizi. La nuova legge richiede alle aziende di fornire strumenti di reportistica chiari e di agire rapidamente una volta presentate richieste di rimozione valide.
La legislazione è stata in parte ispirata da diversi episodi di abuso deepfake di alto profilo che coinvolgevano celebrità, studenti e minorenni. Negli ultimi anni, immagini esplicite generate dall’IA rivolte a figure pubbliche e privati si sono diffuse ampiamente sulle piattaforme social, scatenando pressioni per una regolamentazione più severa.
I ricercatori continuano ad avvertire che l’abuso del deepfake si sta evolvendo più rapidamente rispetto agli attuali sistemi di rilevamento. Diversi studi accademici recenti hanno rilevato che molte manipolazioni generate dall’IA restano difficili da identificare in modo coerente sia per gli esseri umani che per gli strumenti automatici, in particolare tra formati video e audio.
I governi sia negli Stati Uniti che in Europa stanno ora aumentando la pressione sulle aziende tecnologiche affinché rispondano in modo più aggressivo agli abusi generati dall’IA, in particolare ai contenuti che coinvolgono molestie, ricatto, sfruttamento sessuale e immagini non consensuali.