A empresa de inteligência artificial xAI de Elon Musk entrou com um processo contra um homem da Carolina do Sul acusado de usar seu chatbot Grok para gerar material de abuso sexual infantil e deepfakes sexualmente explícitos. A queixa civil tem como alvo Terry Wayne Harwood, que já havia sido preso por acusações criminais estaduais relacionadas a material de abuso sexual infantil. a xAI afirma que o processo tem como objetivo responsabilizar os usuários por abusarem de suas ferramentas de IA para criar conteúdo ilegal.
De acordo com o processo, Harwood teria usado Grok para criar ou alterar imagens que retratassem abuso sexual infantil e conteúdo explícito não consensual envolvendo adultos e menores. A xAI afirma que intencionalmente contornou as medidas de segurança do chatbot e violou os termos de serviço da plataforma, expondo a empresa a danos legais e reputacionais. A empresa está buscando indenização monetária, reembolso de custos legais e uma liminar permanente que impeça Harwood de usar o Grok ou outros serviços xAI no futuro.
O registro marca um dos primeiros casos conhecidos em que um desenvolvedor de IA processou um de seus próprios usuários por suposta criação de conteúdo ilegal. Em vez de focar exclusivamente em ações policiais, a xAI argumenta que litígios civis podem ajudar a dissuadir o uso indevido de sistemas de IA generativa, ao mesmo tempo em que reforçam as políticas de uso aceitável da empresa.
Harwood foi preso em fevereiro após investigadores supostamente descobrirem material de abuso sexual infantil em seus dispositivos eletrônicos. Segundo a xAI, algumas das imagens envolvidas na investigação criminal foram criadas ou modificadas usando as capacidades de geração de imagens do Grok. O caso criminal permanece separado do processo civil da empresa.
O processo ocorre após meses de escrutínio sobre os recursos de geração de imagens da Grok. No início deste ano, a xAI enfrentou críticas e múltiplos desafios legais após usuários demonstrarem que o chatbot podia gerar deepfakes sexuais não consensuais, incluindo imagens manipuladas envolvendo menores. Desde então, a empresa introduziu salvaguardas adicionais e afirma que remove ativamente contas abusivas e denuncia atividades ilegais ao Centro Nacional para Crianças Desaparecidas e Exploradas. Segundo a xAI, suspendeu mais de 52.000 contas e enviou mais de 73.000 denúncias à organização durante 2026, contribuindo para pelo menos 244 prisões.