Der Rat der Europäischen Union hat Vorschlägen zugestimmt, die es künstlichen Intelligenzsystemen verbieten würden, nicht einvernehmliche intime Inhalte zu erzeugen, einschließlich Anwendungen, die dazu dienen, Bilder digital zu verändern, um Kleidung auszuziehen.
Die Maßnahme ist Teil von Aktualisierungen des Artificial Intelligence Act der Europäischen Union im Rahmen eines umfassenderen Gesetzespakets namens Digital Omnibus. Die Änderungen sollen die Regeln in den Bereichen künstliche Intelligenz, Cybersicherheit und Datenschutz innerhalb des Blocks angleichen.
Laut dem Vorschlag wären KI-Systeme, die nicht einvernehmliche sexuelle oder intime Inhalte erstellen, ausdrücklich verboten. Die gleiche Bestimmung verbietet auch die Nutzung von KI zur Erstellung von Material über sexuellen Kindesmissbrauch. Der Rat erklärte, dass diese Praktiken nach EU-Recht als inakzeptable Nutzung künstlicher Intelligenz eingestuft würden.
Die aktualisierten Regeln enthalten auch Anforderungen für Anbieter bestimmter KI-Systeme. Unternehmen, die risikoreiche KI-Tools entwickeln, müssen ihre Systeme in einer europäischen Datenbank registrieren, damit Regulierungsbehörden die Einhaltung überwachen können. Der Vorschlag präzisiert zudem die Verantwortlichkeiten des KI-Büros der EU und der nationalen Behörden bei der Durchsetzung der Regeln.
Zusätzlich zu Beschränkungen schädlicher Nutzungen führt der Vorschlag Änderungen darin, wie personenbezogene Daten in KI-Systemen verarbeitet werden können. Es stellt die Anforderung wieder in Kraft, dass die Nutzung sensibler Daten bei Aufgaben wie der Verfangserkennung und -korrektur einen Standard der strikten Notwendigkeit erfüllen muss.
Das Gesetzesupdate enthält außerdem Maßnahmen zur Reduzierung der regulatorischen Belastung für kleinere Unternehmen. Bestimmte kleine und mittlere Unternehmen können laut Vorschlag der Europäischen Kommission von bestimmten Verpflichtungen gemäß dem KI-Gesetz ausgenommen sein.
Dieser Schritt folgt auf frühere Bedenken von Gesetzgebern und Regulierungsbehörden bezüglich des Einsatzes von KI-Tools zur Erstellung manipulierter Bilder von Personen ohne Einwilligung. Frühere Diskussionen im Europäischen Parlament hoben hervor, dass solche Anträge Grundrechte verletzen könnten, insbesondere wenn sie zur Erstellung sexualisierter oder expliziter Inhalte mit echten Personen verwendet werden.
Die Zustimmung des Rates markiert einen Schritt im Gesetzgebungsprozess. Die aktualisierten Bestimmungen werden in den KI-Regulierungsrahmen der EU aufgenommen, der Kategorien erlaubter und verbotener Nutzung künstlicher Intelligenz in den Mitgliedstaaten festlegt.