Mitglieder des Europäischen Parlaments haben Vorschläge unterstützt, KI-Anwendungen zu verbieten, die nicht einvernehmliche explizite Bilder erzeugen, als Teil laufender Aktualisierungen des Artificial Intelligence Act der Europäischen Union.
Die Gesetzgeber unterstützten Maßnahmen, die sogenannte “Nudifikations”-Tools befürworten, die KI nutzen, um Bilder realer Menschen so zu verändern, dass sie unbekleidet erscheinen. Der Vorschlag würde solche Systeme als verbotene Anwendungen nach EU-Regeln einstufen und sie neben andere verbotene KI-Praktiken einordnen.
Der Schritt folgt auf eine verstärkte Kontrolle über KI-generierte Deepfake-Inhalte, insbesondere nach Vorfällen mit Werkzeugen, die sexualisierte Bilder ohne Zustimmung erzeugen können. Europäische Beamte haben den Vorschlag mit Bedenken hinsichtlich des Missbrauchs generativer KI-Systeme und der Verbreitung manipulierter Inhalte online in Verbindung gebracht.
Ausschüsse im Parlament unterstützten die Aufnahme des Verbots in die Änderungen des KI-Gesetzes, das den EU-Regulierungsrahmen für künstliche Intelligenztechnologien darstellt. Die Gesetzgebung, die 2024 in Kraft trat, wird schrittweise umgesetzt und weiterhin aktualisiert, um neue Risiken im Zusammenhang mit generativer KI zu adressieren.
Der Vorschlag ist Teil eines umfassenderen Bemühens, zu definieren, welche KI-Systeme inakzeptable Risiken darstellen. Nach dem KI-Gesetz können Anwendungen, die Sicherheit oder Grundrechte bedrohen, eingeschränkt oder vollständig verboten werden. Gesetzgeber wollen explizit KI-Werkzeuge, die nicht einvernehmliche explizite Bilder erzeugen, in diese Kategorie einbeziehen.
Die Position des Europäischen Parlaments wird Teil von Verhandlungen mit den EU-Mitgliedstaaten sein, bevor endgültige Regeln verabschiedet werden. Gesetzesänderungen erfordern eine Vereinbarung zwischen dem Parlament und dem Rat der Europäischen Union, bevor sie in Kraft treten.
Jüngste Abstimmungen befassten sich auch mit dem Zeitpunkt anderer KI-Vorschriften. Die Gesetzgeber unterstützten die Verzögerung bestimmter Compliance-Fristen für risikoreiche KI-Systeme und verwiesen auf die Notwendigkeit zusätzlicher technischer Standards und Leitlinien.
Das vorgeschlagene Verbot spiegelt laufende regulatorische Bemühungen in der EU wider, um Risiken im Zusammenhang mit generativer KI zu adressieren, insbesondere bei Fällen von manipulierten oder synthetischen Medien.