Il governo britannico sta esaminando potenziali azioni regolatorie contro i social media X a seguito di notizie secondo cui il suo strumento integrato di intelligenza artificiale, Grok, è stato utilizzato per generare immagini sessualizzate. I funzionari hanno dichiarato che la revisione si concentra sul fatto che la piattaforma stia rispettando i requisiti di sicurezza online del Regno Unito, dopo che sono emerse preoccupazioni riguardo alla creazione e alla condivisione di immagini non consensuali e manipolate.
La questione riguarda le funzionalità di generazione immagini di Grok, che permettono agli utenti di creare o modificare immagini basandosi su prompt testuali. Rapporti citati da funzionari britannici indicano che lo strumento è stato utilizzato per produrre rappresentazioni sessualizzate di individui senza consenso, incluse immagini che coinvolgono minori. I rappresentanti governativi hanno affermato che tali materiali potrebbero violare la legge britannica e rappresentare rischi significativi per la sicurezza online.
Grok è sviluppato da xAI, di proprietà della società madre di X. In risposta alle critiche, X limitò alcune funzionalità di generazione e modifica immagini di Grok agli abbonati paganti. I funzionari britannici hanno dichiarato che questo cambiamento non affronta le preoccupazioni sottostanti riguardo alla comparsa di contenuti dannosi sulla piattaforma.
L’ente regolatore britannico delle comunicazioni Ofcom ha contattato X come parte delle sue responsabilità di supervisione. Secondo il quadro di sicurezza online del Regno Unito, le piattaforme sono tenute a prevenire la diffusione di contenuti illegali e dannosi e ad agire rapidamente quando tali materiali compaiono. Ofcom ha l’autorità di imporre multe o altre misure di applicazione se le aziende non rispettano tali obblighi.
Fonti governative hanno dichiarato che tutte le opzioni regolatorie restano in fase di valutazione, comprese le restrizioni all’accesso alla piattaforma qualora non verranno risolte questioni di conformità. Non è stata annunciata alcuna decisione e i funzionari hanno dichiarato che le discussioni con l’azienda sono ancora in corso.
La situazione ha spinto ad agire in altri paesi. Le autorità in Malesia e Indonesia hanno già limitato l’accesso a Grok, citando preoccupazioni riguardo a immagini sessuali non consensuali e danni digitali. Queste misure hanno aumentato il controllo internazionale sugli strumenti di IA che possono essere utilizzati per generare contenuti espliciti.
I funzionari britannici hanno affermato che il caso mette in evidenza sfide più ampie nella regolamentazione dell’intelligenza artificiale generativa. Hanno sottolineato che ci si aspetta che le aziende tecnologiche garantiscano una distribuzione responsabile e conforme alle leggi nazionali volte a proteggere gli utenti, in particolare i bambini. Ulteriori passi dipenderanno dall’esito delle valutazioni regolatorie e dalla risposta di X alle richieste di applicazione.