Leden van het Europees Parlement hebben voorstellen gesteund om kunstmatige intelligentietoepassingen die niet-consensuele expliciete beelden genereren, te verbieden, als onderdeel van voortdurende updates van de Artificial Intelligence Act van de Europese Unie.
Wetgevers steunden maatregelen gericht op zogenaamde “nudificatie”-tools, die AI gebruiken om afbeeldingen van echte mensen te veranderen zodat ze er ongekleed uitzien. Het voorstel zou dergelijke systemen classificeren als verboden gebruik onder EU-regels, waarbij ze worden geplaatst naast andere verboden AI-praktijken.
De stap volgt op een toegenomen controle op door AI gegenereerde deepfake-inhoud, vooral na incidenten waarbij tools in staat waren om seksueel geseksualiseerde beelden zonder toestemming te produceren. Europese functionarissen hebben het voorstel in verband gebracht met zorgen over het misbruik van generatieve AI-systemen en de verspreiding van gemanipuleerde inhoud online.
Commissies binnen het Parlement steunden de opname van het verbod in amendementen op de AI-wet, het regelgevende kader van de EU voor kunstmatige intelligentietechnologieën. De wetgeving, die in 2024 in werking trad, wordt in fasen uitgevoerd en wordt nog steeds bijgewerkt om nieuwe risico’s die verband houden met generatieve AI aan te pakken.
Het voorstel maakt deel uit van een bredere inspanning om te bepalen welke AI-systemen onaanvaardbare risico’s vormen. Volgens de AI Act kunnen toepassingen die de veiligheid of fundamentele rechten bedreigen worden beperkt of volledig verboden. Wetgevers proberen expliciet AI-tools die niet-consensuele expliciete beelden genereren binnen die categorie op te nemen.
De positie van het Europees Parlement zal deel uitmaken van onderhandelingen met EU-lidstaten voordat definitieve regels worden aangenomen. Wetswijzigingen vereisen overeenstemming tussen het Parlement en de Raad van de Europese Unie voordat ze in werking treden.
Recente stemmingen gingen ook over de timing van andere AI-regelgeving. Wetgevers steunden het uitstellen van bepaalde compliance-deadlines voor risicovolle AI-systemen, met als reden de noodzaak van extra technische standaarden en richtlijnen.
Het voorgestelde verbod weerspiegelt lopende regelgevingsinspanningen in de EU om risico’s van generatieve AI aan te pakken, met name in gevallen waarbij gemanipuleerde of synthetische media betrokken zijn.