Três adolescentes entraram com uma ação contra a xAI, uma empresa de inteligência artificial fundada por Elon Musk, alegando que seu chatbot Grok foi usado para gerar imagens sexualmente explícitas deles enquanto eram menores. A queixa foi apresentada em um tribunal federal dos EUA e acusa a empresa de não impedir o uso indevido de suas ferramentas de geração de imagens.
De acordo com o documento, um terceiro usou as capacidades de edição de imagens de Grok para alterar fotos existentes dos adolescentes, incluindo imagens tiradas de redes sociais e ambientes escolares. A ferramenta teria sido usada para criar imagens explícitas modificando essas fotos. As imagens foram posteriormente compartilhadas em plataformas online, incluindo serviços de mensagens, onde circularam entre os usuários.
O processo afirma que o responsável por criar as imagens foi preso em dezembro. As autoridades disseram que a pessoa produziu imagens alteradas envolvendo vários menores, alguns dos quais frequentavam a mesma escola. Os investigadores também relataram que parte do material foi trocado dentro de grupos online.
Os autores alegam que a xAI não implementou salvaguardas adequadas para impedir a criação de tal conteúdo. A queixa alega que o design de Grok permitiu que usuários gerassem material explícito envolvendo indivíduos reais, incluindo menores, por meio de recursos de modificação de imagem. Advogados que representam os adolescentes argumentam que a empresa deveria ter previsto o risco de uso indevido.
O processo busca indenizações relacionadas à criação e distribuição das imagens. Também pede restrições às funções de edição de imagens da Grok e medidas adicionais para evitar incidentes semelhantes.
A xAI já declarou anteriormente que seus sistemas são destinados a cumprir as leis aplicáveis e incluem salvaguardas contra conteúdo ilegal. Elon Musk disse que não tinha conhecimento de casos em que Grok gerou imagens explícitas de menores.
O caso gira em torno do uso de ferramentas de inteligência artificial para alterar imagens reais e das responsabilidades das empresas que desenvolvem tais sistemas.