Deux organisations néerlandaises de défense ont intenté une action en justice contre le site de réseau social X et son outil d’intelligence artificielle Grok, affirmant que le logiciel peut être utilisé pour générer des images montrant des individus partiellement ou totalement déshabillés sans leur consentement, ont indiqué les groupes dans un communiqué commun. Cette action a été prise par Offlimits, un centre d’expertise en ligne sur les abus, et le Fonds Slachtofferhulp, un fonds de soutien aux victimes de la société civile.
Ils ont engagé une procédure sommaire devant le tribunal de district d’Amsterdam le 26 février 2026, et l’affaire est prévue pour une audience le 12 mars 2026. Les organisations cherchent à obtenir une ordonnance pour arrêter les fonctionnalités de l’outil d’IA, selon elles, permettre aux utilisateurs de créer des images non consenties et réclament une pénalité quotidienne de 100 000 € contre X et Grok s’ils ne se conforment pas.
Les groupes ont indiqué que les capacités actuelles de Grok permettent aux utilisateurs de demander au chatbot d’intelligence artificielle de produire des images représentant de vraies personnes nues ou à caractère sexuel suggestif. Ils ont déclaré que l’outil pourrait également, selon eux, être utilisé pour générer et distribuer des images qui constituent des contenus d’abus sexuels sur enfants selon la loi néerlandaise. Selon les réglementations européennes et néerlandaises, la distribution d’images sexualisées de mineurs est illégale et interdite. Offlimits et Fonds Slachtofferhulp allèguent que les caractéristiques d’IA en question violent le Règlement général sur la protection des données, la loi sur les services numériques, le Code pénal néerlandais, les normes des droits civiques et les protections des droits des portraits.
Dans leur plainte, les organisations ont demandé une suspension immédiate de toutes fonctionnalités permettant aux utilisateurs d’inciter Grok à se déshabiller ou à exposer partiellement des individus dans des images générées sans consentement. Ils ont également demandé au tribunal d’imposer des sanctions financières pour chaque jour où les prévenus continueront à offrir de telles caractéristiques. Les groupes soutiennent que l’accessibilité et la facilité d’utilisation des capacités de génération d’images de Grok ont permis la création et la diffusion en ligne de contenus nuisibles, ce qui, selon eux, augmente le nombre de victimes concernées.
Des représentants d’Offlimits et du Fonds Slachtofferhulp ont déclaré estimer qu’une intervention juridique urgente est nécessaire car les processus législatifs et de supervision peuvent être lents, et ils ont déclaré que chaque jour que de telles images possibles contribuent à des dommages supplémentaires. Ils ont qualifié les prétendus préjudices causés par la génération et la diffusion d’images sexualisées non consenties comme significatifs, et ont déclaré que les victimes ne devraient pas être tenues de « payer le prix de la technologie sans limite ».
Le procès fait suite à plusieurs rapports et controverses qui ont émergé fin 2025 et début 2026 concernant la capacité de Grok à produire des images deepfake générées par IA montrant des individus vêtus de façon révélatrice ou minimaliste, y compris des cas cités dans des analyses internationales du problème. Ces rapports antérieurs notaient que les utilisateurs pouvaient demander à Grok de modifier des photos de personnes pour y ajouter des caractéristiques ou des tenues sexualisées sans leur consentement, et que certaines images générées circulaient largement sur X.
X, qui est la plateforme de médias sociaux auparavant connue sous le nom de Twitter, et l’outil Grok AI appartiennent à xAI, une société associée à l’entrepreneur technologique Elon Musk. Ni X ni xAI n’avaient commenté publiquement le procès néerlandais jusqu’aux derniers rapports. L’action en justice à Amsterdam représente une partie d’un ensemble plus large de défis réglementaires et juridiques auxquels sont confrontés les outils d’IA et les plateformes de réseaux sociaux concernant la création et la diffusion de contenus non consentis.