Het Britse Labour-parlementslid Jess Asato vraagt het Hooggerechtshof in Londen om Elon Musks kunstmatige intelligentiebedrijf, xAI, te bevelen zijn Grok-chatbot te verbieden niet-consensuele geseksualiseerde beelden van haar te genereren. De rechtszaak stelt dat het ontwerp van het platform het creëren van gemanipuleerde inhoud mogelijk maakt die haar privacy- en gegevensbeschermingsrechten schendt.
Asato kondigde vorige maand juridische stappen aan nadat gebruikers naar verluidt gefabriceerde, geseksualiseerde afbeeldingen van haar via Rok hadden gemaakt. Volgens haar gerechtelijke stukken toonde een van de gegenereerde video’s haar terwijl ze werd gechloroformed vóór een seksuele aanranding, wat haar ertoe bracht juridische stappen te ondernemen tegen de AI-ontwikkelaar.
De claim beschuldigt xAI van misbruik van privé-informatie en het overtreden van de Britse gegevensbeschermingswetten. Asato stelt dat de manier waarop Grok is ontworpen en getraind gebruikers in staat stelde de betwiste inhoud te genereren.
Uit rechtbankdocumenten blijkt dat zij een verbod aanvraagt dat xAI verplicht om wat haar juridische team omschrijft als effectieve en permanente technische waarborgen in te voeren. Indien het wordt verleend, zou het bevel Grok verplichten het creëren van gemanipuleerde geseksualiseerde beelden van haar te voorkomen.
Volgens de advocaten van Asato zou de zaak een belangrijk juridisch precedent kunnen vestigen door privacy- en gegevensbeschermingswetgeving direct toe te passen op het ontwerp en de werking van een generatief AI-systeem. Zij zeggen dat er geen eerdere zaak in het Verenigd Koninkrijk zo’n rechtsmiddel heeft gezocht tegen een AI-ontwikkelaar.
xAI had op het moment van de indiening niet publiekelijk op de beschuldigingen gereageerd. Het bedrijf had ook geen verweer ingediend in de procedure van het Hooggerechtshof.
Grok is geïntegreerd in Musks sociale mediaplatform X en heeft in verschillende landen onder toezicht gestaan vanwege zijn vermogen om niet-consensuele geseksualiseerde beelden te genereren. De juridische actie tegen xAI volgt bredere zorgen over hoe generatieve AI-tools kunnen worden gebruikt om realistische afbeeldingen van mensen te creëren zonder hun toestemming.
De rechtszaak verwijst ook naar interne systeemprompts die naar verluidt Groks gedrag bepaalden. Volgens de gerechtelijke stukken gaf een instructie de chatbot de opdracht om gebruikers die duidelijk crimineel handelen niet te ondersteunen. Het juridische team van Asato stelt echter dat andere prompts aangaven dat het systeem geen beperkingen had op volwassen seksuele inhoud of aanstootgevend materiaal, inclusief fictieve volwassen seksuele inhoud met gewelddadige thema’s.
Haar advocaat, Ravi Naik, zei dat het gedrag van de chatbot beslissingen weerspiegelde die tijdens de ontwikkeling werden genomen, en niet onvoorspelbare acties van de software zelf. Hij betoogde dat die ontwerpkeuzes juridische gevolgen zouden moeten hebben en zei dat het gevraagde gerechtelijk bevel het systeem zou verplichten te voldoen aan de Britse wettelijke normen als xAI niet vrijwillig de noodzakelijke wijzigingen aanbracht.
De zaak volgt op eerdere pogingen van xAI om beeldgeneratie te beperken. In januari kondigde het bedrijf beperkingen aan op het bewerken van afbeeldingen en blokkeerde verzoeken waarbij mensen kleding moesten onthullen, waar dit in strijd zou zijn met lokale wetten. Reuters meldde echter in februari dat Grok nog steeds in staat was om geseksualiseerde afbeeldingen van individuen te genereren, zelfs wanneer gebruikers expliciet aangaven dat de betrokkenen geen toestemming hadden gegeven.
De rechtszaak in het Verenigd Koninkrijk is een van de verschillende juridische uitdagingen waarbij Rok betrokken is. Eerder dit jaar heeft de stad Baltimore een rechtszaak aangespannen tegen xAI over door AI gegenereerde geseksualiseerde afbeeldingen, terwijl er ook aanvullende procedures zijn gestart in de Verenigde Staten en Nederland. xAI heeft zich niet publiekelijk uitgesproken over de specifieke claims van Asato, en de zaak van het Hooggerechtshof loopt nog steeds.