Le Conseil de l’Union européenne a accepté des propositions interdisant aux systèmes d’intelligence artificielle de générer du contenu intime non consenti, y compris des applications conçues pour modifier numériquement des images afin d’enlever des vêtements.
Cette mesure s’inscrit dans une mise à jour de la loi européenne sur l’intelligence artificielle dans le cadre d’un ensemble législatif plus large appelé Digital Omnibus. Ces changements visent à aligner les règles couvrant l’intelligence artificielle, la cybersécurité et la protection des données au sein du bloc.
Selon la proposition, les systèmes d’IA créant du contenu sexuel ou intime non consenti seraient explicitement interdits. La même disposition interdit également l’utilisation de l’IA pour générer du matériel d’abus sexuel sur enfants. Le Conseil a déclaré que ces pratiques seraient classées comme des usages inacceptables de l’intelligence artificielle selon le droit de l’UE.
Les règles mises à jour incluent également des exigences pour les fournisseurs de certains systèmes d’IA. Les entreprises développant des outils d’IA à haut risque doivent enregistrer leurs systèmes dans une base de données européenne, permettant aux régulateurs de surveiller la conformité. La proposition clarifie également les responsabilités du Bureau de l’IA de l’UE et des autorités nationales dans l’application des règles.
En plus des restrictions sur les usages nuisibles, la proposition introduit des changements dans la manière dont les données personnelles peuvent être traitées dans les systèmes d’IA. Elle rétablit l’exigence selon laquelle l’utilisation de données sensibles doit respecter une norme de nécessité stricte lorsqu’elle est appliquée à des tâches telles que la détection et la correction des biais.
La mise à jour législative inclut également des mesures visant à réduire la charge réglementaire pour les petites entreprises. Selon la proposition de la Commission européenne, certaines petites et moyennes entreprises peuvent être exemptées de certaines obligations en vertu de la loi sur l’IA.
Cette mesure fait suite aux préoccupations antérieures soulevées par les législateurs et les régulateurs concernant l’utilisation d’outils d’IA pour générer des images manipulées d’individus sans consentement. Des discussions précédentes au Parlement européen ont souligné que de telles demandes pouvaient violer des droits fondamentaux, en particulier lorsqu’elles servent à créer des contenus sexualisés ou explicites impliquant de vraies personnes.
L’accord du Conseil marque une étape dans le processus législatif. Les dispositions mises à jour seront intégrées au cadre réglementaire de l’IA de l’UE, qui définit les catégories d’utilisations autorisées et interdites de l’intelligence artificielle entre les États membres.