Twee Nederlandse belangenorganisaties hebben een rechtszaak aangespannen tegen het sociale mediaplatform X en zijn kunstmatige intelligentietool Grok, waarbij ze stellen dat de software gebruikt kan worden om afbeeldingen te genereren waarop individuen gedeeltelijk of volledig ontkleed zonder hun toestemming te zien zijn, aldus de groepen in een gezamenlijke verklaring. De actie werd ondernomen door Offlimits, een expertisecentrum voor online misbruik, en Fonds Slachtofferhulp, een fonds voor slachtoffers uit het maatschappelijk middenveld.
Zij hebben op 26 februari 2026 een procedure ingediend bij de rechtbank van Amsterdam, en de zaak staat gepland voor een zitting op 12 maart 2026. De organisaties zoeken een bevel om functies van de AI-tool te stoppen waarvan zij zeggen dat gebruikers niet-consensuele afbeeldingen kunnen maken en willen een dagelijkse boete van €100.000 tegen X en Grok als ze niet meewerken.
De groepen zeiden dat de huidige mogelijkheden van Rok gebruikers in staat stellen de kunstmatige intelligentie-chatbot te vragen afbeeldingen te maken waarop echte mensen in ongekleede of seksueel suggestieve toestanden worden getoond. Zij gaven aan dat het hulpmiddel volgens hen ook gebruikt kon worden om beelden te genereren en te verspreiden die onder de Nederlandse wet als seksueel misbruikmateriaal van kinderen kwalificeren. Volgens Europese en Nederlandse regelgeving is het verspreiden van geseksualiseerde afbeeldingen van minderjarigen illegaal en verboden. Offlimits en Fonds Slachtofferhulp stellen dat de betreffende AI-functies in strijd zijn met de Algemene Gegevensbeschermingsverordening, de Wet op Digitale Diensten, het Wetboek van Strafrecht, burgerrechtennormen en portretrechten.
In hun klacht eisten de organisaties een onmiddellijke opschorting van alle functionaliteit die gebruikers toestaat Grok te laten uitkleden of gedeeltelijk te ontmaskeren in gegenereerde beelden zonder toestemming. Zij vroegen de rechtbank ook om financiële boetes op te leggen voor elke dag dat de gedaagden dergelijke voorzieningen blijven aanbieden. De groepen stellen dat de toegankelijkheid en het gebruiksgemak van Groks beeldgeneratiemogelijkheden het mogelijk hebben gemaakt om schadelijk materiaal breed online te creëren en te delen, wat volgens hen het aantal slachtoffers verhoogt.
Vertegenwoordigers van Offlimits en Fonds Slachtofferhulp zeiden dat zij geloven dat dringende juridische interventie noodzakelijk is omdat wetgevende en toezichthoudende processen traag kunnen verlopen, en zij zeiden dat elke dag dat dergelijke beelden mogelijk zijn, bijdraagt aan verdere schade. Zij beschreven de vermeende schade veroorzaakt door het genereren en verspreiden van niet-consensuele geseksualiseerde beelden als significant, en zeiden dat slachtoffers niet mogen verwachten “de prijs te betalen voor technologie zonder grenzen.”
De rechtszaak volgt op verschillende berichten en controverses die eind 2025 en begin 2026 naar voren kwamen over Groks vermogen om door AI gegenereerde deepfake-beelden te produceren waarop individuen in opvallende of minimale kleding te zien zijn, inclusief voorbeelden die in internationale analyses van het onderwerp worden genoemd. In eerdere rapporten werd opgemerkt dat gebruikers Grok konden verzoeken foto’s van mensen te wijzigen om seksualiseerde kenmerken of kleding toe te voegen zonder hun toestemming, en dat sommige gegenereerde afbeeldingen wijdverspreid circuleerden op X.
X, het sociale mediaplatform dat voorheen bekend stond als Twitter, en de Grok AI-tool zijn eigendom van xAI, een bedrijf dat verbonden is aan technologieondernemer Elon Musk. Noch X noch xAI hadden publiekelijk commentaar gegeven op de Nederlandse rechtszaak volgens de meest recente berichten. De juridische actie in Amsterdam maakt deel uit van een bredere reeks regelgevende en juridische uitdagingen waarmee AI-tools en sociale mediaplatforms worden geconfronteerd met betrekking tot het creëren en verspreiden van niet-consensuele inhoud.