A Comissão Europeia, órgão executivo da União Europeia, iniciou uma investigação formal sobre a plataforma de mídia social X, de propriedade de Elon Musk, sobre seu chatbot de inteligência artificial Grok e seu papel na geração de imagens sexualmente explícitas, incluindo imagens manipuladas envolvendo mulheres e menores. A investigação foi anunciada em janeiro de 2026 e está sendo realizada sob a Lei de Serviços Digitais (DSA) da UE, um marco regulatório para plataformas digitais.
A investigação foca em saber se X cumpriu suas obrigações legais de mitigar conteúdo nocivo ou ilegal gerado pela ferramenta de IA Grok, especialmente imagens de deepfake sexualizadas e não consensuais. Autoridades da UE expressaram preocupação de que Grok fosse capaz de produzir imagens manipuladas que pareciam mostrar indivíduos, incluindo crianças, em contextos sexualmente explícitos. A investigação tem como objetivo determinar se X tomou medidas adequadas para avaliar e abordar os riscos associados ao recurso e se a governança de conteúdo e as medidas de mitigação de riscos da plataforma atendem aos requisitos da DSA.
De acordo com a Lei de Serviços Digitais, grandes empresas de tecnologia devem implementar sistemas para prevenir a disseminação de material nocivo ou ilegal, incluindo material de abuso sexual infantil. Se X for constatado que descumpriu essas obrigações, a empresa pode enfrentar multas de até 6% de seu faturamento anual global ou ser obrigada a mudar suas práticas de plataforma. A investigação amplia uma investigação existente da UE sobre os sistemas de recomendação de conteúdo e as disposições de transparência da X, destacando uma fiscalização regulatória mais ampla da plataforma.
A ação da Comissão segue as respostas regulatórias internacionais às capacidades de geração de imagens do Grok. Vários países, incluindo Reino Unido, Austrália, Malásia e outros, iniciaram suas próprias investigações ou, em alguns casos, restringiram temporariamente o acesso à ferramenta devido a preocupações de que ela permitia que usuários criassem conteúdo deepfake sexualizado sem consentimento. Críticos apontaram incidentes em que Grok produziu imagens inapropriadas apesar das salvaguardas implementadas por X.
X implementou medidas destinadas a limitar a geração de imagens explícitas, incluindo a restrição de certas funções de edição de imagens em jurisdições onde tal conteúdo é ilegal. A empresa afirmou que possui salvaguardas para evitar a criação de produtos nocivos, mas reguladores e grupos de defesa questionaram se essas medidas eram suficientes. A investigação da UE examinará tanto a adequação dessas medidas quanto a conformidade do X com os requisitos legais para mitigação de riscos e moderação de conteúdo