Des législateurs démocrates au Sénat des États-Unis ont exhorté Apple et Google à retirer X et son outil d’intelligence artificielle associé, Grok, de leurs boutiques d’applications. Les sénateurs ont indiqué que cette demande fait suite à des rapports selon lesquels Grok aurait été utilisé pour générer des images non consenties et sexualisées, y compris du contenu impliquant des mineurs.
Dans une lettre envoyée aux deux entreprises, les sénateurs ont indiqué que la disponibilité continue de X et Grok pourrait entrer en conflit avec les règles des boutiques d’applications interdisant les contenus nuisibles ou exploitants. Ils ont soutenu qu’Apple et Google ont la responsabilité de faire respecter leurs propres politiques lorsque les applications distribuées sur leurs plateformes sont liées à la création ou à la diffusion de contenus illégaux.
La lettre a été signée par les sénateurs Ron Wyden, Ben Ray Luján et Ed Markey. Les législateurs ont déclaré que les récents changements annoncés par X et xAI, notamment la limitation de certaines fonctionnalités de génération d’images aux utilisateurs payants, ne traitent pas adéquatement les risques associés à cette technologie. Ils ont indiqué que le matériel nuisible restait accessible et que les restrictions basées sur le statut d’abonnement ne constituent pas des garanties efficaces.
Les directives de l’App Store d’Apple interdisent le contenu incluant l’exploitation sexuelle ou du contenu nuisible aux enfants. Les politiques du Play Store de Google restreignent également les applications qui permettent ou facilitent le contenu sexuel non consenti. Les sénateurs ont déclaré qu’un défaut d’action pourrait compromettre la crédibilité de ces règles et exposer les utilisateurs à des préjudices persistants.
Ni Apple ni Google n’ont publiquement indiqué s’ils prévoyaient de supprimer X ou Grok en réponse à cette demande. X et xAI n’ont pas non plus publié de réponse formelle concernant la lettre au moment du rapport.
Cet attrait intervient dans un contexte d’examen plus large des outils d’intelligence artificielle générative et de leur capacité à produire des images réalistes mais nuisibles. Les législateurs ont déclaré que cette affaire met en lumière la pression croissante exercée sur les opérateurs de plateformes et les distributeurs d’applications pour s’attaquer aux risques posés par les systèmes d’IA, qui peuvent être détournés pour créer des contenus abusifs ou exploitants.