La diputada laborista británica Jess Asato está pidiendo al Tribunal Superior de Londres que ordene a la empresa de inteligencia artificial de Elon Musk, xAI, que impida que su chatbot Grok genere imágenes sexualizadas no consensuadas de ella. La demanda argumenta que el diseño de la plataforma permite la creación de contenido manipulado que viole sus derechos de privacidad y protección de datos.
Asato anunció acciones legales el mes pasado después de que los usuarios presuntamente crearan imágenes sexualizadas fabricadas que la representaban a través de Grok. Según sus documentos judiciales, uno de los vídeos generados la mostraba siendo cloroformada antes de una agresión sexual, lo que la llevó a emprender acciones legales contra el desarrollador de la IA.
La acusación acusa a xAI de hacer un mal uso de información privada y de violar las leyes británicas de protección de datos. Asato sostiene que la forma en que Grok fue diseñado y entrenado permitió a los usuarios generar el contenido en disputa.
Los documentos judiciales muestran que está solicitando una orden judicial que obligue a xAI a introducir lo que su equipo legal describe como salvaguardas técnicas efectivas y permanentes. Si se concede, la orden exigiría a Grok impedir la creación de imágenes sexualizadas manipuladas que la representaran.
Según los abogados de Asato, el caso podría establecer un precedente legal importante aplicando directamente la ley de privacidad y protección de datos al diseño y operación de un sistema de IA generativa. Afirman que ningún caso anterior ha buscado este tipo de reparación contra un desarrollador de IA en el Reino Unido.
xAI no había respondido públicamente a las acusaciones en el momento de la presentación. La empresa tampoco presentó una defensa en el proceso del Tribunal Superior.
Grok está integrado en la plataforma de redes sociales X de Musk y ha sido objeto de escrutinio regulatorio en varios países por su capacidad para generar imágenes sexualizadas no consensuadas. La acción legal contra xAI sigue preocupaciones más amplias sobre cómo las herramientas de IA generativa pueden usarse para crear imágenes realistas de personas sin su permiso.
La demanda también cita indicaciones internas del sistema que supuestamente gobernaron el comportamiento de Grok. Según los documentos judiciales, una instrucción indicó al chatbot no ayudar a usuarios involucrados en actividades claramente delictivas. Sin embargo, el equipo legal de Asato argumenta que otros prompts indicaban que el sistema no tenía restricciones sobre contenido sexual adulto u ofensivo, incluyendo contenido sexual ficticio para adultos con temas violentos.
Su abogado, Ravi Naik, afirmó que el comportamiento del chatbot reflejaba decisiones tomadas durante su desarrollo y no acciones impredecibles del propio software. Argumentó que esas decisiones de diseño deberían tener consecuencias legales y afirmó que la orden judicial solicitada exigiría que el sistema cumpliera con los estándares legales del Reino Unido si xAI no realizaba voluntariamente los cambios necesarios.
El caso sigue a los esfuerzos previos de xAI para limitar la generación de imágenes. En enero, la empresa anunció restricciones para editar imágenes y bloqueó solicitudes que involucraran a personas que revelaran ropa cuando hacerlo violaría las leyes locales. Sin embargo, Reuters informó en febrero que Grok seguía siendo capaz de generar imágenes sexualizadas de individuos incluso cuando los usuarios afirmaban explícitamente que los sujetos no habían consentido.
La demanda en el Reino Unido es uno de varios desafíos legales que involucran a Grok. A principios de este año, la ciudad de Baltimore presentó una demanda contra xAI por imágenes sexualizadas generadas por IA, mientras que también se han iniciado procedimientos adicionales en Estados Unidos y los Países Bajos. xAI no ha comentado públicamente las reclamaciones específicas de Asato, y el caso en el Tribunal Superior sigue en curso.