Duas organizações de defesa holandesas entraram com um processo contra a rede social X e sua ferramenta de inteligência artificial Grok, afirmando que o software pode ser usado para gerar imagens que mostram pessoas parcialmente ou totalmente despidas sem seu consentimento, disseram os grupos em comunicado conjunto. A ação foi tomada pelo Offlimits, um centro de expertise online em abuso, e pelo Fonds Slachtofferhulp, um fundo de apoio à vítima da sociedade civil.
Eles entraram com um processo sumário no Tribunal Distrital de Amsterdã em 26 de fevereiro de 2026, e o caso está agendado para audiência em 12 de março de 2026. As organizações estão buscando uma ordem para encerrar recursos da ferramenta de IA, que dizem permitir que usuários criem imagens não consensuais, e querem uma multa diária de €100.000 contra X e Grok caso não cumpram.
Os grupos disseram que as capacidades atuais do Grok permitem que os usuários solicitem ao chatbot de inteligência artificial que produza imagens que mostrem pessoas reais em estados despidos ou sexualmente sugestivos. Eles afirmaram que, em sua visão, a ferramenta também poderia ser usada para gerar e distribuir imagens que se qualificam como material de abuso sexual infantil segundo a lei holandesa. Sob regulamentos europeus e holandeses, distribuir imagens sexualizadas de menores é ilegal e proibido. Offlimits e Fonds Slachtofferhulp alegam que os recursos de IA em questão violam o Regulamento Geral de Proteção de Dados, a Lei dos Serviços Digitais, o Código Penal Holandês, padrões de direitos civis e proteções de direitos de retratos.
Em sua queixa, as organizações buscaram a suspensão imediata de todas as funcionalidades que permitem aos usuários pedir ao Grok que se despida ou expõe parcialmente indivíduos em imagens geradas sem consentimento. Eles também solicitaram que o tribunal imponha penalidades financeiras para cada dia em que os réus continuassem a oferecer tais recursos. Os grupos argumentam que a acessibilidade e facilidade de uso das capacidades de geração de imagens do Grok permitiram a criação e compartilhamento amplo de materiais prejudiciais online, o que, segundo eles, aumenta o número de vítimas afetadas.
Representantes do Offlimits e do Fonds Slachtofferhulp disseram acreditar que uma intervenção legal urgente é necessária porque os processos legislativos e de supervisão podem ser lentos, e afirmaram que a cada dia que tais imagens são possíveis contribui para danos adicionais. Eles descreveram o suposto dano causado pela geração e disseminação de imagens sexualizadas não consensuais como significativo, e disseram que as vítimas não deveriam ser esperadas que “paguem o preço pela tecnologia sem limites.”
O processo segue vários relatos e controvérsias que surgiram no final de 2025 e início de 2026 sobre a capacidade da Grok de produzir imagens deepfake geradas por IA que mostram indivíduos com roupas reveladoras ou minimalistas, incluindo casos citados em análises internacionais sobre o tema. Esses relatos anteriores notaram que usuários podiam solicitar ao Grok que modificasse fotos de pessoas para adicionar características ou roupas sexualizadas sem seu consentimento, e que algumas imagens geradas circulavam amplamente no X.
X, que é a plataforma de mídia social anteriormente conhecida como Twitter, e a ferramenta Grok AI pertencem à xAI, uma empresa associada ao empreendedor de tecnologia Elon Musk. Nem a X nem a xAI haviam comentado publicamente sobre o processo holandês até os relatos mais recentes. A ação judicial em Amsterdã representa parte de um conjunto mais amplo de desafios regulatórios e legais enfrentados por ferramentas de IA e plataformas de redes sociais em relação à criação e disseminação de conteúdo não consensual.