Due organizzazioni olandesi di advocacy hanno intentato una causa contro il sito social X e il suo strumento di intelligenza artificiale Grok, affermando che il software può essere utilizzato per generare immagini che raffigurano individui parzialmente o completamente spogliati senza il loro consenso, hanno dichiarato i gruppi in una dichiarazione congiunta. L’azione è stata intrapresa da Offlimits, un centro di esperti online per abusi, e dal Fonds Slachtofferhulp, un fondo di supporto alle vittime della società civile.
Hanno presentato procedimenti sommari presso il Tribunale Distrettuale di Amsterdam il 26 febbraio 2026 e il caso è fissato per un’udienza il 12 marzo 2026. Le organizzazioni stanno cercando un ordine per fermare le funzionalità dello strumento di IA, secondo loro, permettere agli utenti di creare immagini non consensuali e chiedono una penalità giornaliera di 100.000 € contro X e Grok se non rispettano.
I gruppi hanno affermato che le attuali capacità di Grok permettono agli utenti di richiedere al chatbot di intelligenza artificiale di produrre immagini che raffigurano persone reali in stati nudi o sessualmente suggestive. Hanno dichiarato che lo strumento potrebbe anche essere utilizzato, a loro avviso, per generare e distribuire immagini che qualificano come materiale di abuso sessuale su minori secondo la legge olandese. Secondo le normative europee e olandesi, distribuire immagini sessualizzate di minori è illegale e proibito. Offlimits e Fonds Slachtofferhulp sostengono che le funzionalità di IA in questione violino il Regolamento Generale sulla Protezione dei Dati, la Legge sui Servizi Digitali, il Codice Penale olandese, gli standard sui diritti civili e le tutele dei diritti sui ritratti.
Nel loro reclamo, le organizzazioni hanno chiesto la sospensione immediata di tutte le funzionalità che permettono agli utenti di invitare Grok a spogliarsi o parzialmente esporre individui nelle immagini generate senza consenso. Hanno inoltre chiesto al tribunale di imporre sanzioni economiche per ogni giorno in cui gli imputati continueranno a offrire tali funzionalità. I gruppi sostengono che l’accessibilità e la facilità d’uso delle capacità di generazione immagini di Grok abbiano permesso la creazione e la condivisione ampiamente online di materiale dannoso, il che, secondo loro, aumenta il numero di vittime colpite.
I rappresentanti di Offlimits e Fonds Slachtofferhulp hanno detto di ritenere necessaria un’urgenza legale perché i processi legislativi e di supervisione possono essere lenti, e hanno affermato che ogni giorno che tali immagini possibili contribuiscono a ulteriori danni. Hanno descritto il presunto danno causato dalla generazione e diffusione di immagini sessualizzate non consensuali come significativo, e hanno affermato che alle vittime non si dovrebbe aspettarsi che “paghino il prezzo per la tecnologia senza limiti.”
La causa segue diversi rapporti e controversie emerse tra la fine del 2025 e l’inizio del 2026 riguardanti la capacità di Grok di produrre immagini deepfake generate dall’IA che raffigurano individui con abiti appariscenti o minimalisti, inclusi casi citati in analisi internazionali della questione. Quei rapporti precedenti hanno rilevato che gli utenti potevano chiedere a Grok di modificare foto di persone per aggiungere caratteristiche o abiti sessualizzati senza il loro consenso, e che alcune immagini generate circolavano ampiamente su X.
X, che è la piattaforma social precedentemente conosciuta come Twitter, e lo strumento AI Grok sono di proprietà di xAI, un’azienda associata all’imprenditore tecnologico Elon Musk. Né X né xAI avevano commentato pubblicamente la causa olandese secondo le ultime notizie. L’azione legale ad Amsterdam rappresenta parte di un insieme più ampio di sfide normative e legali che affrontano gli strumenti di IA e le piattaforme social media riguardo alla creazione e diffusione di contenuti non consensuali.