Zwei niederländische Interessenvertretungen haben eine Klage gegen das soziale Netzwerk X und dessen künstliches Intelligenz-Tool Rok eingereicht und behaupten, die Software könne verwendet werden, um Bilder zu erzeugen, die Personen teilweise oder vollständig entkleidet ohne deren Zustimmung zeigen, teilten die Gruppen in einer gemeinsamen Erklärung. Die Maßnahme wurde von Offlimits, einem Expertenzentrum für Online-Missbrauch, und Fonds Slachtofferhulp, einem Fonds für Opfer der Zivilgesellschaft, ergriffen.
Sie reichten am 26. Februar 2026 ein summarisches Verfahren beim Bezirksgericht Amsterdam ein, und der Fall ist für den 12. März 2026 angesetzt. Die Organisationen fordern eine Anordnung, um Funktionen des KI-Tools zu stoppen, von denen sie sagen, dass sie es Nutzern erlauben, nicht einvernehmliche Bilder zu erstellen, und verlangen eine tägliche Strafe von 100.000 € gegen X und Grok, falls sie sich nicht daran halten.
Die Gruppen erklärten, dass Groks derzeitige Fähigkeiten es Nutzern ermöglichen, den künstlichen Intelligenz-Chatbot anzufordern, Bilder zu erstellen, die echte Menschen in unbekleideten oder sexuell anzüglichen Zuständen zeigen. Sie erklärten, dass das Tool ihrer Ansicht nach auch dazu verwendet werden könne, Bilder zu erzeugen und zu verbreiten, die nach niederländischem Recht als sexuelles Kindesmissbrauchsmaterial gelten. Nach europäischen und niederländischen Vorschriften ist die Verbreitung sexualisierter Bilder von Minderjährigen illegal und verboten. Offlimits und Fonds Slachtofferhulp behaupten, dass die betreffenden KI-Merkmale gegen die Datenschutzverordnung, das Digital Services Act, das niederländische Strafgesetzbuch, Bürgerrechtsstandards und den Schutz von Porträtrechten verstoßen.
In ihrer Beschwerde forderten die Organisationen eine sofortige Aussetzung aller Funktionen, die es Nutzern erlauben, Grok dazu zu bringen, Personen in generierten Bildern ohne Zustimmung auszuziehen oder teilweise zu enthüllen. Sie forderten das Gericht außerdem auf, finanzielle Strafen für jeden Tag zu verhängen, an dem die Angeklagten weiterhin solche Leistungen anbieten. Die Gruppen argumentieren, dass die Zugänglichkeit und Benutzerfreundlichkeit der Bilderzeugungsmöglichkeiten von Rok es ermöglicht hat, schädliches Material breit online zu erstellen und zu teilen, was ihrer Meinung nach die Zahl der betroffenen Opfer erhöht.
Vertreter von Offlimits und Fonds Slachtofferhulp erklärten, sie seien der Meinung, dass ein dringendes rechtliches Eingreifen notwendig sei, da gesetzliche und aufsichtsbezogene Prozesse langsam verlaufen können, und sie sagten, dass jeder Tag, dass solche Bilder möglich seien, zu weiteren Schäden beitrage. Sie beschrieben den angeblichen Schaden durch die Entstehung und Verbreitung nicht einvernehmlicher sexualisierter Bilder als erheblich und sagten, dass von den Opfern nicht erwartet werden sollte, “den Preis für unbegrenzte Technologie zu zahlen”.
Die Klage folgt auf mehrere Berichte und Kontroversen, die Ende 2025 und Anfang 2026 über Groks Fähigkeit auftauchten, KI-generierte Deepfake-Bilder zu erstellen, die Personen in freizügiger oder minimaler Kleidung zeigen, einschließlich Beispiele, die in internationalen Analysen zu diesem Thema zitiert werden. Diese früheren Berichte stellten fest, dass Nutzer Grok bitten konnten, Fotos von Personen zu verändern, um sexualisierte Merkmale oder Kleidung ohne deren Zustimmung hinzuzufügen, und dass einige generierte Bilder weit verbreitet auf X zirkulierten.
X, die zuvor als Twitter bekannte Social-Media-Plattform, und das Grok KI-Tool gehören xAI, einem Unternehmen, das mit dem Technologieunternehmer Elon Musk verbunden ist. Weder X noch xAI hatten sich bis zu den jüngsten Berichten öffentlich zu der niederländischen Klage geäußert. Die rechtliche Klage in Amsterdam ist Teil einer breiteren Reihe regulatorischer und rechtlicher Herausforderungen, denen KI-Tools und Social-Media-Plattformen bei der Erstellung und Verbreitung von nicht einvernehmlichen Inhalten gegenüberstehen.