Il Consiglio dell’Unione Europea ha approvato proposte che vieterebbero ai sistemi di intelligenza artificiale di generare contenuti intimi non consensuali, incluse applicazioni progettate per modificare digitalmente immagini per rimuovere i vestiti.
La misura fa parte degli aggiornamenti della Legge sull’Intelligenza Artificiale dell’Unione Europea nell’ambito di un pacchetto legislativo più ampio noto come Digital Omnibus. I cambiamenti mirano ad allineare le regole tra intelligenza artificiale, cybersecurity e protezione dei dati all’interno del blocco.
Secondo la proposta, i sistemi di IA che creano contenuti sessuali o intimi non consensuali sarebbero esplicitamente vietati. La stessa disposizione vieta anche l’uso dell’IA per generare materiale abuso sessuale su minori. Il Consiglio ha dichiarato che queste pratiche sarebbero classificate come usi inaccettabili dell’intelligenza artificiale secondo la legge UE.
Le regole aggiornate includono anche requisiti per i fornitori di determinati sistemi di IA. Le aziende che sviluppano strumenti di IA ad alto rischio devono registrare i loro sistemi in un database europeo, permettendo ai regolatori di monitorare la conformità. La proposta chiarisce ulteriormente le responsabilità dell’Ufficio per l’IA dell’UE e delle autorità nazionali nell’applicazione delle regole.
Oltre alle restrizioni sugli usi dannosi, la proposta introduce cambiamenti su come i dati personali possono essere processati nei sistemi di IA. Ripristina il requisito che l’uso di dati sensibili debba soddisfare uno standard di stretta necessità quando applicato a compiti come il rilevamento e la correzione dei bias.
L’aggiornamento legislativo include anche misure volte a ridurre il carico normativo per le aziende più piccole. Secondo la proposta della Commissione Europea, alcune piccole e medie imprese possono essere esentate da obblighi specifici ai sensi della Legge sull’IA.
La mossa segue preoccupazioni precedenti sollevate da legislatori e regolatori sull’uso di strumenti di IA per generare immagini manipolate di individui senza consenso. Discussioni precedenti all’interno del Parlamento Europeo hanno evidenziato che tali applicazioni potrebbero violare diritti fondamentali, in particolare quando vengono usate per creare contenuti sessualizzati o espliciti che coinvolgono persone reali.
L’accordo del Consiglio segna un passo nel processo legislativo. Le disposizioni aggiornate saranno incorporate nel quadro normativo dell’IA dell’UE, che stabilisce le categorie di usi consentiti e vietati dell’intelligenza artificiale tra gli stati membri.