De Raad van de Europese Unie heeft ingestemd met voorstellen die kunstmatige intelligentiesystemen zouden verbieden om niet-consensuele intieme inhoud te genereren, inclusief applicaties die zijn ontworpen om afbeeldingen digitaal te wijzigen om kleding te verwijderen.
De maatregel maakt deel uit van updates van de Artificial Intelligence Act van de Europese Unie onder een breder wetgevingspakket dat bekendstaat als de Digital Omnibus. De wijzigingen zijn bedoeld om regels op het gebied van kunstmatige intelligentie, cyberbeveiliging en gegevensbescherming binnen het blok op één lijn te brengen.
Volgens het voorstel zouden AI-systemen die niet-consensuele seksuele of intieme inhoud creëren, expliciet worden verboden. Dezelfde bepaling verbiedt ook het gebruik van AI om materiaal over seksueel misbruik van kinderen te genereren. De Raad verklaarde dat deze praktijken onder het EU-recht als onaanvaardbaar gebruik van kunstmatige intelligentie zouden worden beschouwd.
De bijgewerkte regels bevatten ook vereisten voor aanbieders van bepaalde AI-systemen. Bedrijven die risicovolle AI-tools ontwikkelen, moeten hun systemen registreren in een Europese database, zodat toezichthouders de naleving kunnen monitoren. Het voorstel verduidelijkt verder de verantwoordelijkheden van het AI-kantoor van de EU en de nationale autoriteiten bij de handhaving van de regels.
Naast beperkingen op schadelijk gebruik, introduceert het voorstel veranderingen in hoe persoonlijke gegevens in AI-systemen kunnen worden verwerkt. Het stelt opnieuw de eis in dat het gebruik van gevoelige gegevens moet voldoen aan een strikte noodzaak wanneer het wordt toegepast op taken zoals biasdetectie en correctie.
De wetgevende update bevat ook maatregelen die gericht zijn op het verminderen van de regelgevende last voor kleinere bedrijven. Bepaalde kleine en middelgrote ondernemingen kunnen worden vrijgesteld van specifieke verplichtingen onder de AI-wet, volgens het voorstel van de Europese Commissie.
Deze stap volgt op eerdere zorgen van wetgevers en toezichthouders over het gebruik van AI-tools om gemanipuleerde beelden van individuen zonder toestemming te genereren. Eerdere discussies binnen het Europees Parlement benadrukten dat dergelijke aanvragen fundamentele rechten kunnen schenden, vooral wanneer ze worden gebruikt om geseksualiseerde of expliciete inhoud te creëren met echte mensen.
De overeenkomst van de Raad markeert een stap in het wetgevingsproces. De bijgewerkte bepalingen zullen worden opgenomen in het AI-regelgevingskader van de EU, dat categorieën van toegestane en verboden gebruik van kunstmatige intelligentie in de lidstaten vastlegt.