A deputada trabalhista britânica Jess Asato está pedindo ao Tribunal Superior de Londres que ordene à empresa de inteligência artificial de Elon Musk, xAI, que impeça seu chatbot Grok de gerar imagens sexualizadas não consensuais dela. O processo argumenta que o design da plataforma permite a criação de conteúdo manipulado que viola seus direitos de privacidade e proteção de dados.
A Asato anunciou ações legais no mês passado depois que usuários supostamente criaram imagens sexualizadas fabricadas retratando ela através do Grok. De acordo com seus documentos judiciais, um dos vídeos gerados a mostrava sendo clorofórmica antes de um abuso sexual, o que a levou a tomar medidas legais contra o desenvolvedor de IA.
A alegação acusa a xAI de uso indevido de informações privadas e violação das leis de proteção de dados do Reino Unido. Asato argumenta que a forma como o Grok foi projetado e treinado permitiu que os usuários gerassem o conteúdo contestado.
Documentos judiciais mostram que ela está buscando uma liminar exigindo que a xAI apresente o que sua equipe jurídica descreve como salvaguardas técnicas eficazes e permanentes. Se concedida, a ordem exigiria que Grok impedisse a criação de imagens sexualizadas manipuladas que a retratassem.
Segundo os advogados de Asato, o caso poderia estabelecer um precedente legal importante ao aplicar diretamente a lei de privacidade e proteção de dados ao design e operação de um sistema de IA generativa. Eles afirmam que nenhum caso anterior buscou esse tipo de reparação contra um desenvolvedor de IA no Reino Unido.
a xAI não havia respondido publicamente às alegações na época do ajuizamento. A empresa também não apresentou defesa nos processos do Tribunal Superior.
O Grok está integrado à plataforma de mídia social X de Musk e já enfrentou escrutínio regulatório em vários países devido à sua capacidade de gerar imagens sexualizadas não consensuais. A ação judicial contra a xAI segue preocupações mais amplas sobre como ferramentas de IA generativa podem ser usadas para criar imagens realistas de pessoas sem sua permissão.
O processo também cita indicações internas do sistema que supostamente influenciaram o comportamento de Grok. De acordo com os documentos judiciais, uma instrução orientou o chatbot a não ajudar usuários envolvidos em atividades claramente criminosas. No entanto, a equipe jurídica de Asato argumenta que outros prompts afirmavam que o sistema não tinha restrições sobre conteúdo sexual adulto ou material ofensivo, incluindo conteúdo sexual adulto fictício envolvendo temas violentos.
Seu advogado, Ravi Naik, disse que o comportamento do chatbot refletia decisões tomadas durante o desenvolvimento, e não ações imprevisíveis do próprio software. Ele argumentou que essas escolhas de design deveriam ter consequências legais e afirmou que a ordem judicial solicitada exigiria que o sistema cumprisse os padrões legais do Reino Unido caso a xAI não fizesse as mudanças necessárias voluntariamente.
O caso segue esforços anteriores da xAI para limitar a geração de imagens. Em janeiro, a empresa anunciou restrições para editar imagens e bloqueou pedidos envolvendo pessoas que revelam roupas quando isso violaria as leis locais. No entanto, a Reuters informou em fevereiro que o Grok ainda era capaz de gerar imagens sexualizadas de indivíduos mesmo quando usuários afirmavam explicitamente que os participantes não haviam consentido.
O processo no Reino Unido é um dos vários desafios legais envolvendo Grok. No início deste ano, a cidade de Baltimore entrou com um processo contra a xAI por imagens sexualizadas geradas por IA, enquanto processos adicionais também foram iniciados nos Estados Unidos e na Holanda. a xAI não comentou publicamente as alegações específicas de Asato, e o caso na Suprema Corte continua em andamento.