Los reguladores neerlandeses y las agencias de seguridad están pidiendo una prohibición más amplia de las herramientas de IA que generan imágenes desnudas, argumentando que las normas actuales de la Unión Europea no llegan lo suficientemente lejos, según un comunicado conjunto.
Las autoridades, incluyendo la Autoridad de los Países Bajos para Consumidores y Mercados, la Autoridad Holandesa de Protección de Datos y la Policía Nacional Holandesa, han respondido a la legislación europea reciente que prohíbe aplicaciones diseñadas para “desnudar” a personas o generar material de abuso sexual infantil. Las medidas fueron aprobadas como parte de las actualizaciones del marco regulatorio de IA de la UE.
El Parlamento Europeo apoyó la prohibición de las llamadas aplicaciones nudify, diseñadas para crear imágenes explícitas no consensuadas mediante inteligencia artificial. Se espera que la legislación prohíba estas herramientas dentro de la Unión Europea una vez que complete el proceso de aprobación con los Estados miembros.
Las autoridades holandesas afirmaron que el marco actual aún permite ciertas excepciones. Estos incluyen casos en los que las imágenes se generan utilizando caracteres artificiales o donde se reclama el consentimiento de la persona representada. Los reguladores argumentan que estas excepciones limitan la efectividad de la prohibición y dejan lagunas en la aplicación.
En un comunicado conjunto, las agencias señalaron que la acción bajo las normas vigentes se dirige principalmente a individuos que crean o distribuyen material explícito, más que a las herramientas utilizadas para generarlo. Afirmaron que este enfoque no aborda el problema subyacente de cómo se produce y comparte dicho contenido.
Las autoridades buscan conversaciones con los ministerios gubernamentales para examinar cómo podría implementarse una prohibición más amplia a nivel nacional. La propuesta eliminaría las exenciones actuales y aplicaría restricciones a todas las formas de herramientas de nudificación, independientemente de cómo se generen las imágenes o de si se reclama el consentimiento.
Los reguladores también afirmaron que las leyes existentes pueden permitir acciones contra desarrolladores en ciertos casos, especialmente cuando el contenido involucra abuso sexual infantil. Sin embargo, afirmaron que una prohibición más amplia proporcionaría bases legales más claras para la aplicación de las propias herramientas.
Las agencias indicaron que, hasta que se introduzcan más cambios, continuarán procesando informes individuales y utilizando los marcos legales actuales para abordar incidentes relacionados con dichas solicitudes. También señalaron la importancia de informar a los usuarios más jóvenes de que crear o compartir dicho contenido puede ser sancionado según las leyes vigentes.