Malesia e Indonesia hanno bloccato l’accesso a Grok, uno strumento di intelligenza artificiale integrato in X, dopo che le autorità hanno dichiarato che veniva utilizzato per generare immagini deepfake dannose. I funzionari di entrambi i paesi hanno dichiarato che l’azione è stata intrapresa per limitare la diffusione di contenuti non consensuali e sessualizzati creati con questo strumento.
In Indonesia, il Ministero della Comunicazione e dell’Informatica ha dichiarato che Grok è stato sospeso dopo che si è ritenuto in grado di produrre immagini manipolate che violano le leggi nazionali e le norme sociali. Il ministero ha affermato che le normative esistenti consentono alle autorità di limitare i servizi digitali che consentono la distribuzione di contenuti proibiti, inclusi contenuti che danneggiano individui o minano l’ordine pubblico. Le autorità hanno detto che il blocco rimarrà in piedi finché le garanzie non saranno rafforzate.
L’ente regolatore delle comunicazioni malese ha adottato misure simili, citando preoccupazioni che le funzionalità di generazione immagini di Grok potessero essere abusate per creare deepfake senza controlli adeguati. L’ente regolatore ha affermato che la piattaforma non ha dimostrato misure tecniche sufficienti per prevenire abusi e si è affidata eccessivamente alla segnalazione degli utenti piuttosto che a una moderazione proattiva. L’accesso allo strumento è stato limitato mentre le autorità valutavano la conformità ai contenuti locali e alle norme di sicurezza.
Grok è sviluppato da xAI, che è collegato a X tramite la proprietà comune. Lo strumento ha attirato l’attenzione dopo che gli utenti hanno dimostrato la sua capacità di generare immagini alterate e sessualizzate a partire da prompt testuali. I critici hanno affermato che tali capacità rappresentano rischi per la privacy e la sicurezza personale, in particolare per donne e bambini.
Entrambi i governi hanno dichiarato che le restrizioni sono precauzionali e focalizzate sulla protezione degli utenti. I funzionari indonesiani hanno dichiarato di aver richiesto chiarimenti a X e xAI su come lo strumento venga utilizzato localmente e quali misure siano in atto per prevenire un uso improprio. Le autorità malesi hanno dichiarato che l’accesso potrebbe essere ripristinato se gli operatori dimostreranno controlli efficaci che rispettano gli standard normativi.
I blocchi segnano le prime restrizioni a livello nazionale note su Grok legate specificamente a preoccupazioni per il deepfake. Le mosse seguono un più ampio esame internazionale sugli strumenti di intelligenza artificiale generativa e sul loro potenziale di creare contenuti dannosi o fuorvianti. I regolatori in diversi paesi hanno dichiarato che le leggi esistenti potrebbero applicarsi ai sistemi di IA se consentono materiale illegale o dannoso.
xAI ha precedentemente limitato alcune funzionalità di generazione immagini e modificato le impostazioni di accesso a seguito di critiche. Le autorità di Malesia e Indonesia hanno dichiarato che sarebbero necessarie ulteriori modifiche tecniche e politiche prima che il servizio possa riprendere le normali operazioni.