Les régulateurs néerlandais et les forces de l’ordre appellent à une interdiction plus large des outils d’IA générant des images nues, arguant que les règles actuelles de l’Union européenne ne vont pas assez loin, selon un communiqué conjoint.
Les autorités, dont l’Autorité néerlandaise pour les consommateurs et les marchés, l’Autorité néerlandaise de protection des données et la Police nationale néerlandaise, ont répondu à la récente législation européenne qui interdit les applications conçues pour « déshabiller » des individus ou générer des contenus d’abus sexuels sur enfants. Les mesures ont été approuvées dans le cadre des mises à jour du cadre réglementaire de l’IA de l’UE.
Le Parlement européen a soutenu l’interdiction des soi-disant applications nudify, qui sont conçues pour créer des images explicites non consenties à l’aide de l’intelligence artificielle. La législation devrait interdire de tels outils au sein de l’Union européenne une fois le processus d’approbation avec les États membres terminé.
Les autorités néerlandaises ont déclaré que le cadre actuel permet encore certaines exceptions. Cela inclut des cas où les images sont générées à partir de caractères artificiels ou où le consentement est obtenu de la personne représentée. Les régulateurs soutiennent que ces exceptions limitent l’efficacité de l’interdiction et laissent des lacunes dans l’application.
Dans une déclaration conjointe, les agences ont indiqué que l’action en vertu des règles existantes cible principalement les individus qui créent ou distribuent du matériel explicite, plutôt que les outils utilisés pour le générer. Ils ont déclaré que cette approche ne répond pas au problème sous-jacent de la manière dont ce type de contenu est produit et partagé.
Les autorités cherchent à discuter avec les ministères gouvernementaux pour examiner comment une interdiction plus complète pourrait être mise en œuvre au niveau national. La proposition supprimerait les exemptions actuelles et appliquerait des restrictions à toutes les formes d’outils de nudification, quelle que soit la manière dont les images sont générées ou si le consentement est revendiqué.
Les régulateurs ont également indiqué que les lois existantes pourraient permettre des actions contre les développeurs dans certains cas, notamment lorsque le contenu implique des contenus liés à des abus sexuels sur enfants. Cependant, ils ont déclaré qu’une interdiction plus large offrirait des bases juridiques plus claires pour l’application des outils eux-mêmes.
Les agences ont indiqué que, jusqu’à l’introduction de nouveaux changements, elles continueront à traiter les rapports individuels et à utiliser les cadres juridiques actuels pour traiter les incidents impliquant de telles demandes. Ils ont également souligné l’importance d’informer les jeunes utilisateurs que créer ou partager ce type de contenu peut être sanctionné par la législation existante.