Les membres du Parlement européen ont soutenu des propositions visant à interdire les applications d’intelligence artificielle générant des images explicites non consenties, dans le cadre des mises à jour en cours de la Loi sur l’intelligence artificielle de l’Union européenne.
Les législateurs ont soutenu des mesures ciblant les soi-disant outils de « nudification », qui utilisent l’IA pour modifier des images de personnes réelles afin de les faire paraître nues. La proposition classerait ces systèmes comme des usages interdits selon les règles de l’UE, les plaçant aux côtés d’autres pratiques d’IA interdites.
Cette mesure fait suite à une surveillance accrue du contenu deepfake généré par IA, notamment après des incidents impliquant des outils capables de produire des images sexualisées sans consentement. Les responsables européens ont lié cette proposition aux préoccupations concernant l’abus des systèmes d’IA générative et la diffusion de contenus manipulés en ligne.
Des commissions du Parlement ont soutenu l’inclusion de cette interdiction dans les amendements à la loi sur l’IA, qui constitue le cadre réglementaire de l’UE régissant les technologies d’intelligence artificielle. La législation, entrée en vigueur en 2024, est mise en œuvre par étapes et continue d’être mise à jour pour répondre aux nouveaux risques liés à l’IA générative.
La proposition s’inscrit dans un effort plus large visant à définir quels systèmes d’IA présentent des risques inacceptables. En vertu de la loi sur l’IA, les applications qui menacent la sécurité ou les droits fondamentaux peuvent être restreintes ou totalement interdites. Les législateurs cherchent à inclure explicitement les outils d’IA générant des images explicites non consenties dans cette catégorie.
La position du Parlement européen fera partie des négociations avec les États membres de l’UE avant l’adoption de toute règle définitive. Les modifications législatives nécessitent un accord entre le Parlement et le Conseil de l’Union européenne avant d’entrer en vigueur.
Les votes récents ont également abordé le calendrier des autres réglementations sur l’IA. Les législateurs ont soutenu le report de certains délais de conformité pour les systèmes d’IA à haut risque, invoquant la nécessité de normes techniques supplémentaires et de directives.
L’interdiction proposée reflète les efforts réglementaires en cours dans l’UE pour traiter les risques liés à l’IA générative, en particulier dans les cas impliquant des médias manipulés ou synthétiques.