I membri del Parlamento Europeo hanno sostenuto proposte per vietare applicazioni di intelligenza artificiale che generano immagini esplicite non consensuali, come parte degli aggiornamenti in corso della Legge sull’Intelligenza Artificiale dell’Unione Europea.
I legislatori hanno approvato misure rivolte ai cosiddetti strumenti di “nudificazione”, che utilizzano l’IA per alterare immagini di persone reali facendole sembrare spoglie. La proposta classificherebbe tali sistemi come usi vietati secondo le regole dell’UE, collocandoli accanto ad altre pratiche di IA vietate.
La mossa segue un maggiore controllo sui contenuti deepfake generati dall’IA, soprattutto dopo incidenti che coinvolgono strumenti capaci di produrre immagini sessualizzate senza consenso. I funzionari europei hanno collegato la proposta alle preoccupazioni riguardo all’uso improprio dei sistemi di IA generativa e alla diffusione di contenuti manipolati online.
Le commissioni del Parlamento hanno sostenuto l’inclusione del divieto nelle modifiche all’AI Act, che è il quadro normativo dell’UE che regola le tecnologie di intelligenza artificiale. La legislazione, entrata in vigore nel 2024, viene implementata a fasi e continua ad essere aggiornata per affrontare i nuovi rischi legati all’IA generativa.
La proposta fa parte di uno sforzo più ampio per definire quali sistemi di IA presentino rischi inaccettabili. Secondo l’AI Act, le applicazioni che minacciano la sicurezza o i diritti fondamentali possono essere completamente limitate o proibite. I legislatori cercano di includere esplicitamente strumenti di IA che generano immagini esplicite non consensuali all’interno di quella categoria.
La posizione del Parlamento Europeo farà parte delle trattative con gli Stati membri dell’UE prima che vengano adottate regole finali. Le modifiche legislative richiedono un accordo tra il Parlamento e il Consiglio dell’Unione Europea prima di entrare in vigore.
I voti recenti hanno anche affrontato il tempismo di altre regolamentazioni sull’IA. I legislatori hanno sostenuto il ritardo di alcune scadenze di conformità per i sistemi di IA ad alto rischio, citando la necessità di standard tecnici e linee guida aggiuntive.
Il divieto proposto riflette gli sforzi normativi in corso nell’UE per affrontare i rischi associati all’IA generativa, in particolare nei casi che coinvolgono mezzi manipolati o sintetici.