Malásia e Indonésia bloquearam o acesso ao Grok, uma ferramenta de inteligência artificial integrada ao X, após as autoridades afirmarem que ela estava sendo usada para gerar imagens deepfake prejudiciais. Autoridades de ambos os países disseram que a ação foi tomada para limitar a disseminação de conteúdo não consensual e sexualizado criado usando a ferramenta.
Na Indonésia, o Ministério da Comunicação e Informática afirmou que o Grok foi suspenso após se descobrir capaz de produzir imagens manipuladas que violam leis nacionais e normas sociais. O ministério afirmou que as regulamentações existentes permitem que as autoridades restrinjam serviços digitais que possibilitam a distribuição de conteúdo proibido, incluindo material que prejudique indivíduos ou prejudiquem a ordem pública. Autoridades disseram que o bloqueio permanecerá até que as salvaguardas sejam reforçadas.
O regulador de comunicações da Malásia tomou uma ação semelhante, citando preocupações de que os recursos de geração de imagens do Grok poderiam ser usados de forma inadequada para criar deepfakes sem controles adequados. O regulador afirmou que a plataforma não demonstrou medidas técnicas suficientes para prevenir abusos e dependeu excessivamente de denúncias de usuários em vez de moderação proativa. O acesso à ferramenta foi restrito enquanto as autoridades avaliavam o cumprimento do conteúdo local e das regras de segurança.
O Grok é desenvolvido pela xAI, que está ligada a X por meio de propriedade comum. A ferramenta ganhou atenção depois que os usuários demonstraram sua capacidade de gerar imagens alteradas e sexualizadas a partir de prompts de texto. Críticos disseram que tais capacidades representam riscos à privacidade e à segurança pessoal, especialmente para mulheres e crianças.
Ambos os governos disseram que as restrições são precautórias e focadas na proteção do usuário. Autoridades indonésias disseram que solicitaram esclarecimentos à X e à xAI sobre como a ferramenta está sendo usada localmente e quais medidas estão em uso para evitar o uso indevido. As autoridades malaias disseram que o acesso pode ser restaurado se os operadores demonstrarem controles eficazes que atendam aos padrões regulatórios.
Os bloqueios marcam as primeiras restrições nacionais conhecidas ao Grok ligadas especificamente a preocupações com deepfake. Essas medidas seguem um escrutínio internacional mais amplo sobre ferramentas de inteligência artificial generativa e seu potencial para criar conteúdo prejudicial ou enganoso. Reguladores de vários países afirmaram que as leis existentes podem se aplicar a sistemas de IA se eles permitirem materiais ilegais ou prejudiciais.
O xAI já limitou alguns recursos de geração de imagens e ajustou as configurações de acesso após críticas. Autoridades da Malásia e Indonésia disseram que serão necessárias mudanças técnicas e de políticas adicionais antes que o serviço possa retomar suas operações normais.