De Europese Commissie, het uitvoerend orgaan van de Europese Unie, is een formeel onderzoek gestart naar het sociale mediaplatform X, eigendom van Elon Musk, naar de kunstmatige intelligentie-chatbot Grok en diens rol in het genereren van seksueel expliciete beelden, waaronder gemanipuleerde beelden met vrouwen en minderjarigen. Het onderzoek werd aangekondigd in januari 2026 en wordt uitgevoerd onder de Digital Services Act (DSA) van de EU, een regelgevend kader voor digitale platforms.
Het onderzoek richt zich op de vraag of X heeft voldaan aan zijn wettelijke verplichtingen om schadelijke of illegale inhoud die door de Grok AI-tool is gegenereerd, met name niet-consensuele geseksualiseerde deepfake-beelden te beperken. EU-functionarissen hebben hun bezorgdheid geuit dat Grok in staat was gemanipuleerde beelden te produceren die individuen, waaronder kinderen, in seksueel expliciete contexten leken te tonen. Het onderzoek heeft als doel te bepalen of X voldoende stappen heeft ondernomen om de risico’s van de functie te beoordelen en aan te pakken, en of de contentgovernance en risicobeperkende maatregelen van het platform voldoen aan de DSA-eisen.
Volgens de Digital Services Act moeten grote technologiebedrijven systemen implementeren om de verspreiding van schadelijk of illegaal materiaal, waaronder materiaal van seksueel misbruik van kinderen, te voorkomen. Als X deze verplichtingen heeft geschonden, kan het bedrijf boetes krijgen tot 6% van de wereldwijde jaarlijkse omzet of verplicht worden zijn zijn platformpraktijken aan te passen. Het onderzoek breidd een bestaand EU-onderzoek uit naar de inhoudsaanbevelingssystemen en transparantiebepalingen van X, waarbij bredere regelgevende controle op het platform wordt benadrukt.
De actie van de Commissie volgt op internationale regelgeving op Groks beeldgeneratiecapaciteiten. Verschillende landen, waaronder het Verenigd Koninkrijk, Australië, Maleisië en anderen, zijn hun eigen onderzoeken gestart of, in sommige gevallen, tijdelijk de toegang tot het hulpmiddel beperkt vanwege zorgen dat gebruikers zonder toestemming geseksualiseerde deepfake-inhoud konden maken. Critici wijzen op incidenten waarbij Grok ongepaste beelden produceerde ondanks de door X opgestelde waarborgen.
X heeft maatregelen ingevoerd die bedoeld zijn om de generatie van expliciete afbeeldingen te beperken, waaronder het beperken van bepaalde beeldbewerkingsfuncties in rechtsgebieden waar dergelijke inhoud illegaal is. Het bedrijf zei dat het waarborgen had om het creëren van schadelijke output te voorkomen, maar toezichthouders en belangenorganisaties hebben zich afgevraagd of deze stappen voldoende waren. Het EU-onderzoek zal zowel de adequaatheid van die maatregelen als de naleving van de wettelijke vereisten voor risicobeperking en inhoudsmoderatie door X onderzoeken.