La société d’intelligence artificielle xAI d’Elon Musk a intenté un procès contre un homme de Caroline du Sud accusé d’avoir utilisé son chatbot Grok pour générer des contenus d’abus sexuels sur enfants et des deepfakes sexuellement explicites. La plainte civile vise Terry Wayne Harwood, qui avait déjà été arrêté pour des accusations pénales d’État liées à des abus sexuels sur mineurs. xAI affirme que le procès vise à tenir les utilisateurs responsables d’abus de ses outils d’IA pour créer du contenu illégal.
Selon la plainte, Harwood aurait utilisé Grok pour créer ou modifier des images représentant des abus sexuels sur enfants et du contenu explicite non consenti impliquant des adultes et des mineurs. xAI affirme avoir intentionnellement contourné les mesures de sécurité du chatbot et violé les conditions d’utilisation de la plateforme tout en exposant l’entreprise à des dommages juridiques et réputationnels. L’entreprise réclame des dommages-intérêts, le remboursement des frais juridiques et une injonction permanente empêchant Harwood d’utiliser Grok ou d’autres services xAI à l’avenir.
Ce dépôt constitue l’un des premiers cas connus où un développeur d’IA a poursuivi l’un de ses propres utilisateurs pour la création présumée de contenu illégal. Plutôt que de se concentrer uniquement sur l’action policière, xAI soutient que le contentieux civil peut aider à dissuader l’abus des systèmes d’IA générative tout en renforçant les politiques d’utilisation acceptable de l’entreprise.
Harwood a été arrêté en février après que les enquêteurs auraient découvert des contenus d’abus sexuels sur enfants sur ses appareils électroniques. Selon xAI, certaines images impliquées dans l’enquête criminelle ont été créées ou modifiées en utilisant les capacités de génération d’images de Grok. L’affaire pénale reste distincte de la procédure civile de la société.
Le procès intervient après des mois d’examen sur les fonctionnalités de génération d’images de Grok. Plus tôt cette année, xAI a fait face à des critiques et à de multiples contestations juridiques après que des utilisateurs ont démontré que le chatbot pouvait générer des deepfakes sexuels non consentis, y compris des images manipulées impliquant des mineurs. Depuis, l’entreprise a introduit des mesures de protection supplémentaires et affirme supprimer activement les comptes abusifs et signaler les activités illégales au Centre national pour les enfants disparus et exploités. Selon xAI, elle a suspendu plus de 52 000 comptes et soumis plus de 73 000 signalements à l’organisation au cours de 2026, contribuant à au moins 244 arrestations.