La società di intelligenza artificiale xAI di Elon Musk ha intentato una causa contro un uomo della Carolina del Sud accusato di aver utilizzato il chatbot Grok per generare materiale di abuso sessuale su minori e deepfake sessualmente espliciti. La denuncia civile prende di mira Terry Wayne Harwood, che era stato precedentemente arrestato con accuse penali statali relative a materiale di abuso sessuale su minori. xAI afferma che la causa è pensata per ritenere gli utenti responsabili dell’abuso dei suoi strumenti di IA per creare contenuti illegali.
Secondo la causa, Harwood avrebbe usato Grok per creare o modificare immagini che raffiguravano abusi sessuali su minori e contenuti espliciti non consensuali che coinvolgevano adulti e minori. xAI sostiene di aver intenzionalmente aggirato le misure di sicurezza del chatbot e violato i termini di servizio della piattaforma, esponendo l’azienda a danni legali e reputazionali. L’azienda sta chiedendo risarcimento monetario, il rimborso delle spese legali e un’ingiunzione permanente che impedisca a Harwood di utilizzare Grok o altri servizi xAI in futuro.
La denuncia rappresenta uno dei primi casi noti in cui uno sviluppatore di IA ha fatto causa a uno dei propri utenti per la presunta creazione di contenuti illegali. Invece di concentrarsi esclusivamente sull’azione delle forze dell’ordine, xAI sostiene che il contenzioso civile può aiutare a scoraggiare l’uso improprio dei sistemi di IA generativa rafforzando al contempo le politiche di uso accettabile dell’azienda.
Harwood è stato arrestato a febbraio dopo che gli investigatori avrebbero scoperto materiale di abuso sessuale su minori sui suoi dispositivi elettronici. Secondo xAI, alcune delle immagini coinvolte nell’indagine criminale sono state create o modificate utilizzando le capacità di generazione immagini di Grok. Il caso penale rimane separato dalla causa civile della società.
La causa arriva dopo mesi di esame sulle funzionalità di generazione immagini di Grok. All’inizio di quest’anno, xAI ha affrontato critiche e numerose sfide legali dopo che gli utenti hanno dimostrato che il chatbot poteva generare deepfake sessuali non consensuali, incluse immagini manipolate che coinvolgevano minori. Da allora l’azienda ha introdotto ulteriori misure di sicurezza e afferma di rimuovere attivamente gli account abusivi e di segnalare attività illegali al National Center for Missing & Exploited Children. Secondo xAI, ha sospeso più di 52.000 account e inviato oltre 73.000 segnalazioni all’organizzazione durante il 2026, contribuendo ad almeno 244 arresti.