Los miembros del Parlamento Europeo han apoyado propuestas para prohibir aplicaciones de inteligencia artificial que generen imágenes explícitas no consensuadas, como parte de las actualizaciones continuas de la Ley de Inteligencia Artificial de la Unión Europea.
Los legisladores respaldaron medidas dirigidas a las llamadas herramientas de “nudificación”, que utilizan IA para alterar imágenes de personas reales y hacerlas parecer desnudas. La propuesta clasificaría estos sistemas como usos prohibidos según las normas de la UE, situándolos junto a otras prácticas de IA prohibidas.
Esta medida sigue a un mayor escrutinio sobre el contenido deepfake generado por IA, especialmente tras incidentes que involucran herramientas capaces de producir imágenes sexualizadas sin consentimiento. Los funcionarios europeos han vinculado la propuesta a preocupaciones sobre el mal uso de sistemas de IA generativa y la difusión de contenido manipulado en línea.
Comités del Parlamento respaldaron la inclusión de la prohibición en las enmiendas a la Ley de IA, que es el marco regulatorio de la UE que regula las tecnologías de inteligencia artificial. La legislación, que entró en vigor en 2024, se está implementando por etapas y sigue actualizándose para abordar los nuevos riesgos relacionados con la IA generativa.
La propuesta forma parte de un esfuerzo más amplio para definir qué sistemas de IA presentan riesgos inaceptables. Bajo la Ley de IA, las aplicaciones que amenazan la seguridad o derechos fundamentales pueden ser restringidas o prohibidas por completo. Los legisladores buscan incluir explícitamente herramientas de IA que generen imágenes explícitas no consensuadas dentro de esa categoría.
La posición del Parlamento Europeo formará parte de las negociaciones con los Estados miembros de la UE antes de que se adopten las normas definitivas. Los cambios legislativos requieren un acuerdo entre el Parlamento y el Consejo de la Unión Europea antes de entrar en vigor.
Las votaciones recientes también abordaron el calendario de otras regulaciones sobre la IA. Los legisladores apoyaron retrasar ciertos plazos de cumplimiento para sistemas de IA de alto riesgo, citando la necesidad de estándares técnicos y directrices adicionales.
La prohibición propuesta refleja los esfuerzos regulatorios en curso en la UE para abordar los riesgos asociados a la IA generativa, especialmente en casos que involucren medios manipulados o sintéticos.