Tres adolescentes han presentado una demanda contra xAI, una empresa de inteligencia artificial fundada por Elon Musk, alegando que su chatbot Grok fue utilizado para generar imágenes sexualmente explícitas de ellos cuando eran menores. La demanda fue presentada en un tribunal federal de Estados Unidos y acusa a la empresa de no prevenir el uso indebido de sus herramientas de generación de imágenes.
Según la demanda, un tercero utilizó las capacidades de edición de imágenes de Grok para alterar fotos existentes de los adolescentes, incluidas imágenes tomadas de redes sociales y entornos escolares. Supuestamente, la herramienta se utilizó para crear imágenes explícitas modificando esas fotos. Las imágenes se compartieron posteriormente en plataformas online, incluidos servicios de mensajería, donde circularon entre los usuarios.
La demanda afirma que la persona responsable de crear las imágenes fue arrestada en diciembre. Las autoridades dijeron que la persona había producido imágenes alteradas que involucraban a varios menores, algunos de los cuales asistían al mismo colegio. Los investigadores también informaron que parte del material se intercambiaba dentro de grupos en línea.
Los demandantes alegan que xAI no implementó salvaguardas adecuadas para evitar la creación de dicho contenido. La denuncia alega que el diseño de Grok permitía a los usuarios generar material explícito que involucrara a personas reales, incluidos menores, mediante funciones de modificación de imagen. Los abogados que representan a los adolescentes argumentan que la empresa debería haber previsto el riesgo de uso indebido.
La demanda reclama daños y perjuicios relacionados con la creación y distribución de las imágenes. También pide restricciones a las funciones de edición de imágenes de Grok y medidas adicionales para evitar incidentes similares.
xAI ha declarado anteriormente que sus sistemas están destinados a cumplir con las leyes aplicables e incluyen salvaguardas contra contenido ilegal. Elon Musk ha dicho que no tenía conocimiento de casos en los que Grok generó imágenes explícitas de menores.
El caso se centra en el uso de herramientas de inteligencia artificial para alterar imágenes reales y en las responsabilidades de las empresas que desarrollan dichos sistemas.