Trois adolescents ont intenté une action en justice contre xAI, une entreprise d’intelligence artificielle fondée par Elon Musk, alléguant que son chatbot Grok a été utilisé pour générer des images sexuellement explicites d’eux alors qu’ils étaient mineurs. La plainte a été déposée devant un tribunal fédéral américain et accuse l’entreprise de ne pas avoir empêché l’utilisation abusive de ses outils de génération d’images.
Selon le dossier, un tiers a utilisé les capacités de retouche d’image de Grok pour modifier des photos existantes des adolescents, y compris des images prises sur les réseaux sociaux et dans des contextes scolaires. L’outil aurait été utilisé pour créer des images explicites en modifiant ces photos. Les images ont ensuite été partagées sur des plateformes en ligne, y compris des services de messagerie, où elles circulaient parmi les utilisateurs.
La plainte indique que la personne responsable de la création des images a été arrêtée en décembre. Les autorités ont indiqué que la personne avait produit des images modifiées impliquant plusieurs mineurs, dont certains fréquentaient la même école. Les enquêteurs ont également rapporté que certains contenus étaient échangés au sein de groupes en ligne.
Les plaignants affirment que xAI n’a pas mis en place de garanties adéquates pour empêcher la création de tels contenus. La plainte alligne que le design de Grok permettait aux utilisateurs de générer du contenu explicite impliquant de vraies personnes, y compris des mineurs, grâce à des fonctionnalités de modification d’image. Les avocats représentant les adolescents soutiennent que l’entreprise aurait dû prévoir le risque d’abus.
La plainte vise à obtenir des dommages-intérêts liés à la création et à la distribution des images. Il appelle également à des restrictions sur les fonctions de retouche d’image de Grok et à des mesures supplémentaires pour prévenir des incidents similaires.
xAI a précédemment déclaré que ses systèmes sont conçus pour se conformer aux lois applicables et inclure des garanties contre les contenus illégaux. Elon Musk a déclaré ne pas avoir connaissance d’incidents où Grok avait généré des images explicites de mineurs.
L’affaire porte sur l’utilisation d’outils d’intelligence artificielle pour modifier des images réelles et les responsabilités des entreprises qui développent de tels systèmes.