O Conselho da União Europeia concordou com propostas que proibiriam sistemas de inteligência artificial de gerar conteúdo íntimo não consensual, incluindo aplicativos projetados para alterar digitalmente imagens para remover roupas.
A medida faz parte das atualizações da Lei de Inteligência Artificial da União Europeia, sob um pacote legislativo mais amplo conhecido como Digital Omnibus. As mudanças têm como objetivo alinhar as regras de inteligência artificial, cibersegurança e proteção de dados dentro do bloco.
De acordo com a proposta, sistemas de IA que criem conteúdo sexual ou íntimo não consensual seriam explicitamente banidos. A mesma disposição também proíbe o uso de IA para gerar material de abuso sexual infantil. O Conselho afirmou que essas práticas seriam classificadas como usos inaceitáveis de inteligência artificial segundo a legislação da UE.
As regras atualizadas também incluem requisitos para provedores de certos sistemas de IA. Empresas que desenvolvem ferramentas de IA de alto risco devem registrar seus sistemas em um banco de dados europeu, permitindo que os reguladores monitorem a conformidade. A proposta esclarece ainda mais as responsabilidades do Escritório de IA da UE e das autoridades nacionais na aplicação das regras.
Além das restrições a usos prejudiciais, a proposta introduz mudanças na forma como dados pessoais podem ser processados em sistemas de IA. Ela restabelece a exigência de que o uso de dados sensíveis atenda a um padrão de necessidade estrita quando aplicado a tarefas como detecção e correção de vieses.
A atualização legislativa também inclui medidas voltadas para reduzir a carga regulatória para empresas menores. Certas pequenas e médias empresas podem ser isentas de obrigações específicas sob a Lei da IA, de acordo com a proposta da Comissão Europeia.
A medida segue preocupações anteriores levantadas por legisladores e reguladores sobre o uso de ferramentas de IA para gerar imagens manipuladas de indivíduos sem consentimento. Discussões anteriores no Parlamento Europeu destacaram que tais aplicações podem violar direitos fundamentais, especialmente quando usadas para criar conteúdo sexualizado ou explícito envolvendo pessoas reais.
O acordo do Conselho marca um passo no processo legislativo. As disposições atualizadas serão incorporadas ao arcabouço regulatório de IA da UE, que estabelece categorias de usos permitidos e proibidos de inteligência artificial entre os Estados-membros.