La députée travailliste britannique Jess Asato demande à la Haute Cour de Londres d’ordonner à xAI, la société d’intelligence artificielle d’Elon Musk, d’empêcher son chatbot Grok de générer des images sexualisées non consenties d’elle. La plainte soutient que la conception de la plateforme permet la création de contenu manipulé qui viole ses droits à la vie privée et à la protection des données.
Asato a annoncé une action en justice le mois dernier après que des utilisateurs auraient créé des images sexuelles fabriquées la représentant via Grok. Selon ses documents judiciaires, l’une des vidéos générées la montrait en état de chloroforme avant une agression sexuelle, ce qui l’a poussée à engager une action en justice contre le développeur de l’IA.
Cette allégation accuse xAI d’avoir abusé d’informations privées et de violation des lois britanniques sur la protection des données. Asato soutient que la façon dont Grok a été conçu et entraîné a permis aux utilisateurs de générer le contenu contesté.
Les documents judiciaires montrent qu’elle demande une injonction obligeant xAI à introduire ce que son équipe juridique décrit comme des garanties techniques efficaces et permanentes. Si elle était accordée, l’ordonnance exigerait que Grok empêche la création d’images sexualisées manipulées la représentant.
Selon les avocats d’Asato, cette affaire pourrait établir un précédent juridique important en appliquant directement la législation sur la vie privée et la protection des données à la conception et au fonctionnement d’un système d’IA générative. Ils affirment qu’aucune affaire précédente n’a demandé ce type de recours contre un développeur d’IA au Royaume-Uni.
xAI n’avait pas répondu publiquement aux allégations au moment du dépôt. La société n’avait pas non plus présenté de défense devant la Haute Cour.
Grok est intégré à la plateforme de médias sociaux X de Musk et a fait l’objet d’un examen réglementaire dans plusieurs pays en raison de sa capacité à générer des images sexuelles non consenties. L’action en justice contre xAI fait suite à des préoccupations plus larges concernant la manière dont les outils d’IA générative peuvent être utilisés pour créer des images réalistes de personnes sans leur autorisation.
La plainte cite également des indications internes du système qui auraient régi le comportement de Grok. Selon les documents judiciaires, une instruction ordonnait au chatbot de ne pas aider les utilisateurs manifestement impliqués dans des activités criminelles. Cependant, l’équipe juridique d’Asato soutient que d’autres prompts indiquaient que le système n’imposait aucune restriction sur le contenu sexuel adulte ou le contenu offensant, y compris le contenu sexuel adulte fictif impliquant des thèmes violents.
Son avocat, Ravi Naik, a déclaré que le comportement du chatbot reflétait des décisions prises lors de son développement plutôt que des actions imprévisibles du logiciel lui-même. Il a soutenu que ces choix de conception devraient avoir des conséquences juridiques et a déclaré que l’ordonnance judiciaire demandée exigerait que le système se conforme aux normes juridiques britanniques si xAI n’apportait pas volontairement les modifications nécessaires.
Cette affaire fait suite aux efforts antérieurs de xAI pour limiter la génération d’images. En janvier, l’entreprise a annoncé des restrictions sur l’édition des images et a bloqué les demandes impliquant des personnes dévoilant des vêtements lorsque cela violerait les lois locales. Cependant, Reuters a rapporté en février que Grok était encore capable de générer des images sexualisées d’individus même lorsque les utilisateurs affirmaient explicitement que les sujets n’avaient pas consenti.
Le procès britannique est l’un des nombreux défis juridiques impliquant Grok. Plus tôt cette année, la ville de Baltimore a intenté un procès contre xAI concernant des images sexualisées générées par l’IA, tandis que des procédures supplémentaires ont également été engagées aux États-Unis et aux Pays-Bas. xAI n’a pas commenté publiquement les allégations spécifiques d’Asato, et l’affaire devant la Haute Cour est toujours en cours.