Dos organizaciones de defensa neerlandesas han presentado una demanda contra la red social X y su herramienta de inteligencia artificial Grok, afirmando que el software puede usarse para generar imágenes que muestran a personas parcialmente o totalmente desnudas sin su consentimiento, según informaron los grupos en un comunicado conjunto. La acción fue tomada por Offlimits, un centro de expertos en abuso en línea, y Fonds Slachtofferhulp, un fondo de apoyo a víctimas de la sociedad civil.
Presentaron procedimientos sumarios en el Tribunal de Distrito de Ámsterdam el 26 de febrero de 2026, y el caso está programado para una vista el 12 de marzo de 2026. Las organizaciones buscan una orden para detener funciones de la herramienta de IA, según dicen, que permiten a los usuarios crear imágenes no consensuadas y exigen una penalización diaria de 100.000 € contra X y Grok si no cumplen.
Los grupos afirmaron que las capacidades actuales de Grok permiten a los usuarios solicitar al chatbot de inteligencia artificial que produzca imágenes que representen a personas reales en estados desnudos o con percepciones sexuales sugerentes. Afirmaron que, en su opinión, la herramienta también podría utilizarse para generar y distribuir imágenes que califican como material de abuso sexual infantil según la ley neerlandesa. Según las normativas europeas y holandesas, distribuir imágenes sexualizadas de menores es ilegal y está prohibido. Offlimits y Fonds Slachtofferhulp alegan que las características de IA en cuestión violan el Reglamento General de Protección de Datos, la Ley de Servicios Digitales, el Código Penal neerlandés, los estándares de derechos civiles y las protecciones de los derechos de retrato.
En su queja, las organizaciones solicitaron la suspensión inmediata de toda funcionalidad que permita a los usuarios pedir a Grok que se desnude o exponga parcialmente a individuos en imágenes generadas sin su consentimiento. También pidieron al tribunal que imponga sanciones económicas por cada día que los acusados sigan ofreciendo tales características. Los grupos argumentan que la accesibilidad y facilidad de uso de las capacidades de generación de imágenes de Grok han permitido crear y compartir ampliamente en línea material dañino, lo que, según ellos, aumenta el número de víctimas afectadas.
Representantes de Offlimits y Fonds Slachtofferhulp afirmaron que creen que es necesaria una intervención legal urgente porque los procesos legislativos y de supervisión pueden ser lentos, y afirmaron que cada día que este tipo de imágenes sea posible contribuye a un daño adicional. Describieron el supuesto daño causado por la generación y difusión de imágenes sexualizadas no consensuadas como significativo, y dijeron que no se debería esperar que las víctimas “paguen el precio por la tecnología sin límites”.
La demanda sigue a varios informes y controversias que surgieron a finales de 2025 y principios de 2026 sobre la capacidad de Grok para producir imágenes deepfake generadas por IA que muestran a personas con ropa reveladora o minimalista, incluyendo casos citados en análisis internacionales del tema. Esos informes anteriores señalaban que los usuarios podían solicitar a Grok que modificara fotos de personas para añadir características o vestimenta sexualizada sin su consentimiento, y que algunas imágenes generadas circulaban ampliamente en X.
X, que es la plataforma de redes sociales anteriormente conocida como Twitter, y la herramienta AI Grok son propiedad de xAI, una empresa asociada al emprendedor tecnológico Elon Musk. Ni X ni xAI habían comentado públicamente la demanda neerlandesa hasta los informes más recientes. La acción legal en Ámsterdam representa parte de un conjunto más amplio de desafíos regulatorios y legales a los que se enfrentan las herramientas de IA y las plataformas de redes sociales en materia de creación y difusión de contenido no consensuado.