El Consejo de la Unión Europea ha aprobado propuestas que prohibirían a los sistemas de inteligencia artificial generar contenido íntimo no consensuado, incluidas aplicaciones diseñadas para alterar digitalmente imágenes y quitar la ropa.
La medida forma parte de las actualizaciones de la Ley de Inteligencia Artificial de la Unión Europea dentro de un paquete legislativo más amplio conocido como el Ómnibus Digital. Los cambios tienen como objetivo alinear las normas en inteligencia artificial, ciberseguridad y protección de datos dentro del bloque.
Según la propuesta, los sistemas de IA que creen contenido sexual o íntimo no consentido serían explícitamente prohibidos. La misma disposición también prohíbe el uso de IA para generar material de abuso sexual infantil. El Consejo declaró que estas prácticas serían clasificadas como usos inaceptables de la inteligencia artificial según la legislación de la UE.
Las normas actualizadas también incluyen requisitos para los proveedores de ciertos sistemas de IA. Las empresas que desarrollan herramientas de IA de alto riesgo deben registrar sus sistemas en una base de datos europea, lo que permite a los reguladores supervisar el cumplimiento. La propuesta aclara además las responsabilidades de la Oficina de IA de la UE y de las autoridades nacionales en la aplicación de las normas.
Además de las restricciones a usos perjudiciales, la propuesta introduce cambios en la forma en que los datos personales pueden ser procesados en los sistemas de IA. Restablece el requisito de que el uso de datos sensibles debe cumplir un estándar de estricta necesidad cuando se aplica a tareas como la detección y corrección de sesgos.
La actualización legislativa también incluye medidas destinadas a reducir la carga regulatoria para las empresas más pequeñas. Según la propuesta de la Comisión Europea, ciertas pequeñas y medianas empresas pueden estar exentas de obligaciones específicas bajo la Ley de IA.
Esta medida sigue a preocupaciones anteriores planteadas por legisladores y reguladores sobre el uso de herramientas de IA para generar imágenes manipuladas de individuos sin consentimiento. Debates previos en el Parlamento Europeo pusieron de manifiesto que tales aplicaciones podrían violar derechos fundamentales, especialmente cuando se usan para crear contenido sexualizado o explícito que involucre a personas reales.
El acuerdo del Consejo marca un paso en el proceso legislativo. Las disposiciones actualizadas se incorporarán al marco regulatorio de la IA de la UE, que establece categorías de usos permitidos y prohibidos de la inteligencia artificial en los Estados miembros.