Reguladores holandeses e agências de aplicação da lei estão pedindo uma proibição mais ampla de ferramentas de IA que geram imagens nuas, argumentando que as regras atuais da União Europeia não vão longe o suficiente, segundo um comunicado conjunto.
Autoridades, incluindo a Autoridade Holandesa para Consumidores e Mercados, a Autoridade Holandesa de Proteção de Dados e a Polícia Nacional Holandesa, responderam à legislação europeia recente que proíbe aplicações destinadas a “despir” indivíduos ou gerar material de abuso sexual infantil. As medidas foram aprovadas como parte das atualizações do arcabouço regulatório de IA da UE.
O Parlamento Europeu apoiou a proibição dos chamados aplicativos de nudificação, que são projetados para criar imagens explícitas e não consensuais usando inteligência artificial. Espera-se que a legislação proíba tais ferramentas dentro da União Europeia assim que concluir o processo de aprovação com os Estados-membros.
As autoridades holandesas afirmaram que o quadro atual ainda permite certas exceções. Esses casos incluem casos em que as imagens são geradas usando caracteres artificiais ou onde o consentimento é reivindicado do indivíduo retratado. Os reguladores argumentam que essas exceções limitam a eficácia da proibição e deixam lacunas na aplicação.
Em uma declaração conjunta, as agências afirmaram que a ação sob as regras existentes visa principalmente indivíduos que criam ou distribuem material explícito, em vez das ferramentas usadas para gerá-lo. Eles afirmaram que essa abordagem não resolve a questão subjacente de como esse tipo de conteúdo é produzido e compartilhado.
As autoridades estão buscando discussões com ministérios do governo para examinar como uma proibição mais abrangente poderia ser implementada em nível nacional. A proposta removeria as isenções atuais e aplicaria restrições a todas as formas de ferramentas de nudificação, independentemente de como as imagens são geradas ou se o consentimento é reivindicado.
Os reguladores também afirmaram que as leis existentes podem permitir ações contra desenvolvedores em certos casos, especialmente quando o conteúdo envolve abuso sexual infantil. No entanto, disseram que uma proibição mais ampla forneceria bases legais mais claras para a aplicação das próprias ferramentas.
As agências indicaram que, até que novas mudanças sejam introduzidas, continuarão a processar relatórios individuais e a utilizar os marcos legais atuais para lidar com incidentes envolvendo tais solicitações. Eles também destacaram a importância de informar os usuários mais jovens de que criar ou compartilhar esse tipo de conteúdo pode ser punível sob as leis vigentes.