La Comisión Europea, órgano ejecutivo de la Unión Europea, ha iniciado una investigación formal sobre la plataforma de redes sociales X, propiedad de Elon Musk, por su chatbot de inteligencia artificial Grok y su papel en la generación de imágenes sexualmente explícitas, incluyendo imágenes manipuladas que involucran a mujeres y menores. La investigación se anunció en enero de 2026 y se está llevando a cabo bajo la Ley de Servicios Digitales (DSA) de la UE, un marco regulatorio para las plataformas digitales.
La investigación se centra en si X ha cumplido con sus obligaciones legales de mitigar contenido dañino o ilegal generado por la herramienta de IA Grok, especialmente imágenes deepfake sexualizadas no consensuadas. Los funcionarios de la UE han expresado su preocupación de que Grok fuera capaz de producir imágenes manipuladas que parecían mostrar a individuos, incluidos niños, en contextos sexualmente explícitos. La investigación tiene como objetivo determinar si X tomó medidas adecuadas para evaluar y abordar los riesgos asociados a la función y si la gobernanza de contenidos y las medidas de mitigación de riesgos de la plataforma cumplen con los requisitos de la DSA.
Según la Ley de Servicios Digitales, las grandes empresas tecnológicas deben implementar sistemas para prevenir la propagación de material dañino o ilegal, incluido el material de abuso sexual infantil. Si se determina que X ha incumplido estas obligaciones, la empresa podría enfrentar multas de hasta el 6 % de su facturación anual global o verse obligada a cambiar sus prácticas de plataforma. La investigación amplía una investigación existente de la UE sobre los sistemas de recomendación de contenidos y disposiciones de transparencia de X, destacando un escrutinio regulatorio más amplio de la plataforma.
La acción de la Comisión sigue a las respuestas regulatorias internacionales a las capacidades de generación de imágenes de Grok. Varios países, incluidos Reino Unido, Australia, Malasia y otros, han iniciado sus propias investigaciones o, en algunos casos, restringido temporalmente el acceso a la herramienta por preocupaciones de que permitía a los usuarios crear contenido deepfake sexualizado sin consentimiento. Los críticos han señalado incidentes en los que Grok produjo imágenes inapropiadas a pesar de las salvaguardas establecidas por X.
X ha implementado medidas destinadas a limitar la generación de imágenes explícitas, incluyendo la restricción de ciertas funciones de edición de imágenes en jurisdicciones donde dicho contenido es ilegal. La empresa afirmó que contaba con salvaguardas para evitar la creación de productos dañinos, pero los reguladores y grupos de defensa han cuestionado si estas medidas eran suficientes. La investigación de la UE examinará tanto la adecuación de esas medidas como el cumplimiento por parte de X de los requisitos legales para la mitigación de riesgos y la moderación de contenidos