Le gouvernement britannique examine d’éventuelles mesures réglementaires contre les réseaux sociaux X suite à des rapports selon lesquels son outil intégré d’intelligence artificielle, Grok, a été utilisé pour générer des images sexualisées. Les responsables ont indiqué que l’examen se concentre sur la conformité de la plateforme aux exigences britanniques de sécurité en ligne, après que des inquiétudes ont été soulevées concernant la création et le partage d’images non consenties et manipulées.
Le problème porte sur les fonctionnalités de génération d’images de Grok, qui permettent aux utilisateurs de créer ou modifier des images à partir d’indications textuelles. Des rapports cités par des responsables britanniques indiquent que cet outil a été utilisé pour produire des représentations sexualisées d’individus sans consentement, y compris des images impliquant des mineurs. Des représentants gouvernementaux ont déclaré que de tels contenus pourraient enfreindre la législation britannique et présenter des risques importants pour la sécurité en ligne.
Grok est développé par xAI, que possède la société mère de X. En réponse aux critiques, X a limité certaines fonctionnalités de génération et d’édition d’images de Grok aux abonnés payants. Les responsables britanniques ont déclaré que ce changement ne répondait pas aux préoccupations sous-jacentes concernant l’apparition de contenus nuisibles sur la plateforme.
Le régulateur britannique des communications, Ofcom, a contacté X dans le cadre de ses responsabilités de surveillance. Dans le cadre de la sécurité en ligne du Royaume-Uni, les plateformes sont tenues de prévenir la diffusion de contenus illégaux et nuisibles et d’agir rapidement lorsque de tels contenus apparaissent. Ofcom a le pouvoir d’imposer des amendes ou d’autres mesures d’exécution si les entreprises ne respectent pas ces obligations.
Des sources gouvernementales ont indiqué que toutes les options réglementaires restent à l’étude, y compris les restrictions d’accès à la plateforme en cas de résolution des problèmes de conformité. Aucune décision n’a été annoncée, et les responsables ont indiqué que les discussions avec l’entreprise étaient en cours.
La situation a poussé à agir dans d’autres pays. Les autorités de Malaisie et d’Indonésie ont déjà restreint l’accès à Grok, invoquant des préoccupations concernant des images sexuelles non consenties et des préjudices numériques. Ces mesures ont renforcé l’examen international des outils d’IA pouvant être utilisés pour générer du contenu explicite.
Les responsables britanniques ont déclaré que cette affaire met en lumière des défis plus larges dans la régulation de l’intelligence artificielle générative. Ils ont souligné que les entreprises technologiques sont censées veiller à ce que les nouveaux outils soient déployés de manière responsable et conforme aux lois nationales destinées à protéger les utilisateurs, en particulier les enfants. Les prochaines étapes dépendront des résultats des évaluations réglementaires et de la réponse de X aux demandes d’application.