I legislatori democratici del Senato degli Stati Uniti hanno sollecitato Apple e Google a rimuovere X e il suo strumento di intelligenza artificiale associato Grok dai loro store di app. I senatori hanno detto che la richiesta segue notizie secondo cui Grok è stato utilizzato per generare immagini non consensuali e sessualizzate, inclusi contenuti che coinvolgono minori.
In una lettera inviata alle due aziende, i senatori hanno affermato che la continua disponibilità di X e Grok potrebbe entrare in conflitto con le regole degli app store che vietano materiale dannoso o sfruttatore. Hanno sostenuto che Apple e Google hanno la responsabilità di far rispettare le proprie politiche quando le app distribuite tramite le loro piattaforme sono collegate alla creazione o diffusione di contenuti illegali.
La lettera fu firmata dai senatori Ron Wyden, Ben Ray Luján ed Ed Markey. I legislatori hanno affermato che i recenti cambiamenti annunciati da X e xAI, tra cui la limitazione di alcune funzionalità di generazione di immagini agli utenti paganti, non affrontano adeguatamente i rischi associati alla tecnologia. Hanno affermato che il materiale dannoso rimane accessibile e che le restrizioni basate sullo stato dell’abbonamento non costituiscono salvaguardie efficaci.
Le linee guida dell’App Store di Apple vietano contenuti che includano lo sfruttamento sessuale o materiale dannoso per i bambini. Le politiche del Play Store di Google limitano analogamente le app che abilitano o facilitano contenuti sessuali non consensuali. I senatori hanno affermato che il mancato intervento potrebbe compromettere la credibilità di tali regole ed esporre gli utenti a danni continui.
Né Apple né Google hanno dichiarato pubblicamente se intendano rimuovere X o Grok in risposta alla richiesta. X e xAI non hanno inoltre emesso una risposta formale riguardante la lettera al momento della segnalazione.
Il fascino nasce in un contesto di più ampia attenzione agli strumenti di intelligenza artificiale generativa e alla loro capacità di produrre immagini realistiche ma dannose. I legislatori hanno affermato che il caso evidenzia la crescente pressione sugli operatori delle piattaforme e sui distributori di app per affrontare i rischi rappresentati dai sistemi di IA che possono essere usati in modo improprio per creare contenuti abusivi o sfruttatori.