La Commissione Europea, organo esecutivo dell’Unione Europea, ha avviato un’indagine formale sulla piattaforma social X, di proprietà di Elon Musk, riguardo al suo chatbot di intelligenza artificiale Grok e al suo ruolo nella generazione di immagini sessualmente esplicite, incluse immagini manipolate che coinvolgono donne e minori. L’inchiesta è stata annunciata nel gennaio 2026 ed è condotta ai sensi del Digital Services Act (DSA) dell’UE, un quadro normativo per le piattaforme digitali.
L’indagine si concentra sul fatto che X abbia rispettato i suoi obblighi legali di mitigare contenuti dannosi o illegali generati dallo strumento AI Grok, in particolare immagini deepfake sessualizzate non consensuali. I funzionari dell’UE hanno espresso preoccupazione che Grok fosse in grado di produrre immagini manipolate che sembravano mostrare individui, inclusi bambini, in contesti sessualmente espliciti. L’indagine mira a determinare se X abbia adottato misure adeguate per valutare e affrontare i rischi associati alla funzionalità e se la governance dei contenuti della piattaforma e le misure di mitigazione dei rischi soddisfino i requisiti della DSA.
Ai sensi del Digital Services Act, le grandi aziende tecnologiche devono implementare sistemi per prevenire la diffusione di materiale dannoso o illegale, inclusi quelli abusati di minori. Se X venisse ritenuto in violazione di questi obblighi, l’azienda potrebbe subire multe fino al 6% del fatturato globale annuale o essere costretta a modificare le proprie pratiche di piattaforma. L’indagine amplia un’indagine UE esistente sui sistemi di raccomandazione dei contenuti e sulle disposizioni sulla trasparenza di X, evidenziando un controllo normativo più ampio sulla piattaforma.
L’azione della Commissione segue le risposte regolatorie internazionali alle capacità di generazione immagini di Grok. Diversi paesi, tra cui Regno Unito, Australia, Malesia e altri, hanno avviato le proprie indagini o, in alcuni casi, hanno temporaneamente limitato l’accesso allo strumento per preoccupazioni che permettesse agli utenti di creare contenuti deepfake sessualizzati senza consenso. I critici hanno indicato episodi in cui Grok ha prodotto immagini inappropriate nonostante le salvaguardie imposte da X.
X ha implementato misure volte a limitare la generazione di immagini esplicite, inclusa la restrizione di alcune funzioni di editing delle immagini in giurisdizioni in cui tali contenuti sono illegali. L’azienda ha dichiarato di avere garanzie per prevenire la creazione di prodotti dannosi, ma regolatori e gruppi di advocacy hanno messo in dubbio la sua efficacia di questi passi. L’indagine dell’UE esaminerà sia l’adeguatezza di tali misure sia la conformità di X ai requisiti legali per la mitigazione del rischio e la moderazione dei contenuti