Legisladores democratas no Senado dos Estados Unidos instaram Apple e Google a remover o X e sua ferramenta de inteligência artificial associada, o Grok, de suas lojas de aplicativos. Os senadores disseram que o pedido vem após relatos de que Grok foi usado para gerar imagens não consensuais e sexualizadas, incluindo conteúdo envolvendo menores.
Em uma carta enviada às duas empresas, os senadores disseram que a disponibilidade contínua de X e Grok pode entrar em conflito com as regras da loja de aplicativos que proíbem material prejudicial ou exploratório. Eles argumentaram que Apple e Google têm a responsabilidade de aplicar suas próprias políticas quando aplicativos distribuídos por suas plataformas estão ligados à criação ou disseminação de conteúdo ilegal.
A carta foi assinada pelos senadores Ron Wyden, Ben Ray Luján e Ed Markey. Os legisladores disseram que as mudanças recentes anunciadas pela X e xAI, incluindo a limitação de alguns recursos de geração de imagens para usuários pagantes, não abordam adequadamente os riscos associados à tecnologia. Eles disseram que material prejudicial permanece acessível e que restrições baseadas no status de assinatura não constituem salvaguardas eficazes.
As diretrizes da App Store da Apple proíbem conteúdos que incluam exploração sexual ou material prejudicial a crianças. As políticas da Play Store do Google também restringem aplicativos que permitem ou facilitam conteúdo sexual não consensual. Os senadores disseram que a falta de ação poderia minar a credibilidade dessas regras e expor os usuários a danos contínuos.
Nem a Apple nem o Google indicaram publicamente se pretendem remover X ou Grok em resposta ao pedido. X e xAI também não emitiram uma resposta formal sobre a carta no momento da denúncia.
O apelo surge em meio a um escrutínio mais amplo das ferramentas de inteligência artificial generativa e sua capacidade de produzir imagens realistas, porém prejudiciais. Os legisladores disseram que o caso destaca a crescente pressão sobre operadores de plataformas e distribuidores de aplicativos para enfrentar os riscos representados pelos sistemas de IA, que podem ser usados de forma indebida para criar conteúdo abusivo ou exploratório.