O governo do Reino Unido está revisando possíveis ações regulatórias contra a mídia social X após relatos de que sua ferramenta integrada de inteligência artificial, Grok, tem sido usada para gerar imagens sexualizadas. Autoridades disseram que a revisão está focada em saber se a plataforma está cumprindo os requisitos de segurança online do Reino Unido, após preocupações terem sido levantadas sobre a criação e o compartilhamento de imagens não consensuais e manipuladas.
A questão gira em torno dos recursos de geração de imagens do Grok, que permitem aos usuários criar ou alterar imagens com base em prompts de texto. Relatórios citados por autoridades britânicas indicam que a ferramenta tem sido usada para produzir representações sexualizadas de indivíduos sem consentimento, incluindo imagens envolvendo menores. Representantes do governo afirmaram que esse tipo de material pode violar a legislação do Reino Unido e representar riscos significativos para a segurança online.
O Grok é desenvolvido pela xAI, que é propriedade da empresa-mãe da X. Em resposta às críticas, a X restringiu alguns recursos de geração e edição de imagens do Grok a assinantes pagantes. Autoridades britânicas disseram que essa mudança não aborda as preocupações subjacentes sobre o aparecemento de conteúdo prejudicial na plataforma.
O órgão regulador de comunicações do Reino Unido, Ofcom, entrou em contato com a X como parte de suas responsabilidades de supervisão. De acordo com o quadro de segurança online do Reino Unido, as plataformas são obrigadas a prevenir a disseminação de conteúdo ilegal e prejudicial e a agir rapidamente quando tal material aparecer. A Ofcom tem autoridade para impor multas ou outras medidas de fiscalização caso as empresas não cumpram essas obrigações.
Fontes do governo disseram que todas as opções regulatórias ainda estão sob consideração, incluindo restrições ao acesso à plataforma caso as questões de conformidade não sejam resolvidas. Nenhuma decisão foi anunciada, e autoridades disseram que as discussões com a empresa continuam.
A situação motivou ações em outros países. As autoridades da Malásia e da Indonésia já restringiram o acesso a Grok, citando preocupações sobre imagens sexuais não consensuais e danos digitais. Essas medidas aumentaram o escrutínio internacional sobre ferramentas de IA que podem ser usadas para gerar conteúdo explícito.
Autoridades britânicas disseram que o caso destaca desafios mais amplos na regulamentação da inteligência artificial generativa. Eles enfatizaram que as empresas de tecnologia devem garantir que novas ferramentas sejam implantadas de forma responsável e em conformidade com as leis nacionais projetadas para proteger os usuários, especialmente crianças. As medidas adicionais dependerão do resultado das avaliações regulatórias e da resposta de X aos pedidos de fiscalização.