La deputata laburista britannica Jess Asato chiede all’Alta Corte di Londra di ordinare alla società di intelligenza artificiale di Elon Musk, xAI, di impedire al chatbot Grok di generare immagini sessualizzate non consensuali di lei. La causa sostiene che il design della piattaforma consente la creazione di contenuti manipolati che violano i suoi diritti alla privacy e alla protezione dei dati.
Asato ha annunciato azioni legali il mese scorso dopo che gli utenti avrebbero creato immagini sessualizzate fabbricate che la ritraggono tramite Grok. Secondo i suoi documenti in tribunale, uno dei video generati la ritraeva con il cloroformato prima di un’aggressione sessuale, spingendola a intraprendere azioni legali contro lo sviluppatore dell’IA.
L’accusa di xAI di abusare delle informazioni private e di violare le leggi britanniche sulla protezione dei dati. Asato sostiene che il modo in cui Grok è stato progettato e addestrato ha permesso agli utenti di generare i contenuti contestati.
I documenti giudiziari mostrano che sta chiedendo un’ingiunzione che richieda a xAI di introdurre quelle che il suo team legale definisce salvaguardie tecniche efficaci e permanenti. Se concesso, l’ordine richiederebbe a Grok di impedire la creazione di immagini sessualizzate manipolate che la raffigurino.
Secondo gli avvocati di Asato, il caso potrebbe stabilire un importante precedente giuridico applicando direttamente la legge sulla privacy e sulla protezione dei dati alla progettazione e all’operatività di un sistema di IA generativa. Affermano che nessun caso precedente ha mai richiesto questo tipo di rimedio contro uno sviluppatore di IA nel Regno Unito.
xAI non aveva risposto pubblicamente alle accuse al momento della presentazione. La società non aveva inoltre presentato difesa nel procedimento della Corte Suprema.
Grok è integrata nella piattaforma social di Musk, X, e ha affrontato un controllo normativo in diversi paesi per la sua capacità di generare immagini sessualizzate non consensuali. L’azione legale contro xAI segue preoccupazioni più ampie su come gli strumenti di IA generativa possano essere utilizzati per creare immagini realistiche di persone senza il loro permesso.
La causa cita anche indicazioni interne del sistema che avrebbero governato il comportamento di Grok. Secondo i documenti giudiziari, una delle istruzioni ha ordinato al chatbot di non assistere gli utenti coinvolti in attività chiaramente criminali. Tuttavia, il team legale di Asato sostiene che altri prompt affermassero che il sistema non prevedeva restrizioni su contenuti sessuali per adulti o contenuti offensivi, inclusi contenuti sessuali di finzione per adulti con temi violenti.
Il suo avvocato, Ravi Naik, ha detto che il comportamento del chatbot riflette decisioni prese durante lo sviluppo piuttosto che azioni imprevedibili del software stesso. Ha sostenuto che tali scelte di design dovrebbero avere conseguenze legali e ha affermato che l’ordine del tribunale richiesto richiederebbe al sistema di rispettare gli standard legali britannici se xAI non avesse apportato volontariamente le modifiche necessarie.
Il caso segue i precedenti tentativi di xAI per limitare la generazione delle immagini. A gennaio, l’azienda ha annunciato restrizioni sulla modifica delle immagini e ha bloccato richieste che coinvolgevano persone che mostravano abiti in violazione delle leggi locali. Tuttavia, Reuters ha riportato a febbraio che Grok era ancora in grado di generare immagini sessualizzate di individui anche quando gli utenti dichiaravano esplicitamente che i soggetti non avevano acconsentito.
La causa nel Regno Unito è una delle diverse sfide legali che coinvolgono Grok. All’inizio di quest’anno, la città di Baltimora ha intentato una causa contro xAI per immagini sessualizzate generate dall’IA, mentre ulteriori procedimenti sono stati avviati anche negli Stati Uniti e nei Paesi Bassi. xAI non ha commentato pubblicamente le specifiche affermazioni di Asato, e il caso presso l’Alta Corte è ancora in corso.