Nederlandse toezichthouders en wetshandhavingsinstanties pleiten voor een breder verbod op AI-tools die naaktfoto’s genereren, met het argument dat de huidige regels van de Europese Unie niet ver genoeg gaan, aldus een gezamenlijke verklaring.
Autoriteiten, waaronder de Nederlandse Autoriteit voor Consumenten en Markten, de Nederlandse Autoriteit voor Gegevensbescherming en de Nationale Politie, hebben gereageerd op recente Europese wetgeving die aanvragen verbiedt die bedoeld zijn om individuen te “ontkleden” of materiaal over seksueel misbruik van kinderen te genereren. De maatregelen werden goedgekeurd als onderdeel van updates van het AI-regelgevingskader van de EU.
Het Europees Parlement steunde het verbod op zogenaamde nudify-applicaties, die zijn ontworpen om niet-consensuele expliciete beelden te creëren met behulp van kunstmatige intelligentie. Van de wetgeving wordt verwacht dat deze instrumenten binnen de Europese Unie worden verboden zodra het goedkeuringsproces met de lidstaten is afgerond.
Nederlandse autoriteiten verklaarden dat het huidige kader nog steeds bepaalde uitzonderingen toestaat. Dit omvat gevallen waarin de afbeeldingen worden gegenereerd met kunstmatige tekens of waarbij toestemming wordt gevraagd van de afgebeelde persoon. Toezichthouders stellen dat deze uitzonderingen de effectiviteit van het verbod beperken en gaten in de handhaving laten.
In een gezamenlijke verklaring zeiden de agentschappen dat acties onder de bestaande regels vooral gericht zijn op personen die expliciet materiaal creëren of verspreiden, in plaats van de gebruikte middelen om het te genereren. Zij verklaarden dat deze aanpak het onderliggende probleem van hoe dergelijke inhoud wordt geproduceerd en gedeeld niet aanpakt.
De autoriteiten zoeken gesprekken met overheidsministeries om te onderzoeken hoe een meer omvattend verbod op nationaal niveau kan worden ingevoerd. Het voorstel zou de huidige uitzonderingen verwijderen en beperkingen toepassen op alle vormen van nudify-tools, ongeacht hoe de beelden worden gegenereerd of of toestemming wordt geclaimd.
Toezichthouders verklaarden ook dat bestaande wetten in bepaalde gevallen actie tegen ontwikkelaars kunnen toestaan, vooral wanneer inhoud materiaal van seksueel misbruik van kinderen bevat. Ze zeiden echter dat een bredere verbod duidelijkere juridische gronden zou bieden voor handhaving van de instrumenten zelf.
De instanties gaven aan dat, totdat verdere wijzigingen worden doorgevoerd, zij individuele rapporten zullen blijven verwerken en de huidige juridische kaders zullen gebruiken om incidenten met dergelijke aanvragen aan te pakken. Ze benadrukten ook het belang van het informeren van jongere gebruikers dat het creëren of delen van dergelijke inhoud strafbaar kan zijn onder de bestaande wetgeving.