La empresa de inteligencia artificial xAI de Elon Musk ha presentado una demanda contra un hombre de Carolina del Sur acusado de utilizar su chatbot Grok para generar material de abuso sexual infantil y deepfakes sexualmente explícitos. La denuncia civil está dirigida a Terry Wayne Harwood, quien fue arrestado previamente por cargos penales estatales relacionados con material de abuso sexual infantil. xAI afirma que la demanda pretende responsabilizar a los usuarios por abusar de sus herramientas de IA para crear contenido ilegal.
Según la demanda, Harwood supuestamente utilizó a Grok para crear o alterar imágenes que representaban abuso sexual infantil y contenido explícito no consensuado que involucraba a adultos y menores. xAI afirma que intencionadamente eludió las medidas de seguridad del chatbot y violó los términos de servicio de la plataforma, exponiendo a la empresa a daños legales y reputacionales. La empresa busca indemnización económica, el reembolso de costes legales y una orden judicial permanente que impida a Harwood utilizar Grok u otros servicios xAI en el futuro.
La demanda marca uno de los primeros casos conocidos en los que un desarrollador de IA ha demandado a uno de sus propios usuarios por la supuesta creación de contenido ilegal. En lugar de centrarse únicamente en la acción policial, xAI sostiene que el litigio civil puede ayudar a disuadir el mal uso de sistemas de IA generativa mientras refuerza las políticas de uso aceptable de la empresa.
Harwood fue arrestado en febrero después de que los investigadores presuntamente descubrieran material de abuso sexual infantil en sus dispositivos electrónicos. Según xAI, algunas de las imágenes involucradas en la investigación criminal fueron creadas o modificadas utilizando las capacidades de generación de imágenes de Grok. El caso penal sigue siendo independiente de la demanda civil de la empresa.
La demanda llega tras meses de escrutinio sobre las funciones de generación de imágenes de Grok. A principios de este año, xAI enfrentó críticas y múltiples desafíos legales después de que los usuarios demostraran que el chatbot podía generar deepfakes sexuales no consentidos, incluyendo imágenes manipuladas que involucraban a menores. Desde entonces, la empresa ha introducido salvaguardas adicionales y afirma que elimina activamente cuentas abusivas y denuncia actividades ilegales al Centro Nacional para Niños Desaparecidos y Explotados. Según xAI, ha suspendido más de 52.000 cuentas y ha presentado más de 73.000 informes a la organización durante 2026, lo que ha contribuido a al menos 244 detenciones.