Membros do Parlamento Europeu apoiaram propostas para banir aplicações de inteligência artificial que gerem imagens explícitas não consensuais, como parte das atualizações contínuas da Lei de Inteligência Artificial da União Europeia.
Legisladores apoiaram medidas que visam as chamadas ferramentas de “nudificação”, que usam IA para alterar imagens de pessoas reais e fazê-las parecer despidas. A proposta classificaria esses sistemas como usos proibidos sob as regras da UE, colocando-os ao lado de outras práticas de IA proibidas.
A medida segue uma análise crescente de conteúdo deepfake gerado por IA, especialmente após incidentes envolvendo ferramentas capazes de produzir imagens sexualizadas sem consentimento. Autoridades europeias associaram a proposta a preocupações sobre o uso indevido de sistemas de IA generativa e a disseminação de conteúdo manipulado online.
Comitês dentro do Parlamento apoiaram a inclusão da proibição em emendas à Lei da IA, que é o arcabouço regulatório da UE que rege as tecnologias de inteligência artificial. A legislação, que entrou em vigor em 2024, está sendo implementada em etapas e continua sendo atualizada para enfrentar novos riscos relacionados à IA generativa.
A proposta faz parte de um esforço mais amplo para definir quais sistemas de IA apresentam riscos inaceitáveis. Sob a Lei da IA, aplicações que ameaçam a segurança ou direitos fundamentais podem ser restringidas ou proibidas completamente. Os legisladores buscam incluir explicitamente ferramentas de IA que geram imagens explícitas e não consensuais dentro dessa categoria.
A posição do Parlamento Europeu fará parte das negociações com os Estados-membros da UE antes que quaisquer regras finais sejam adotadas. Mudanças legislativas exigem acordo entre o Parlamento e o Conselho da União Europeia antes de entrarem em vigor.
Votações recentes também abordaram o momento de outras regulamentações de IA. Os legisladores apoiaram o adiamento de certos prazos de conformidade para sistemas de IA de alto risco, citando a necessidade de padrões técnicos adicionais e orientações.
A proibição proposta reflete esforços regulatórios contínuos na UE para enfrentar riscos associados à IA generativa, especialmente em casos envolvendo mídias manipuladas ou sintéticas.