Het kunstmatige intelligentiebedrijf xAI van Elon Musk heeft een rechtszaak aangespannen tegen een man uit South Carolina die ervan wordt beschuldigd hun Grok-chatbot te hebben gebruikt om seksueel misbruikmateriaal van kinderen en seksueel expliciete deepfakes te genereren. De civiele klacht richt zich op Terry Wayne Harwood, die eerder werd gearresteerd op staatsstrafrechtelijke aanklachten met betrekking tot seksueel misbruik van kinderen. xAI zegt dat de rechtszaak bedoeld is om gebruikers verantwoordelijk te houden voor het misbruiken van zijn AI-tools om illegale content te creëren.
Volgens de rechtszaak zou Harwood Grok hebben gebruikt om afbeeldingen te creëren of te bewerken die seksueel misbruik van kinderen en niet-consensuele expliciete inhoud met volwassenen en minderjarigen uitbeelden. xAI beweert dat hij opzettelijk de veiligheidsmaatregelen van de chatbot heeft omzeild en de gebruiksvoorwaarden van het platform heeft geschonden, waardoor het bedrijf wordt blootgesteld aan juridische en reputatieschade. Het bedrijf eist financiële schadevergoeding, vergoeding van juridische kosten en een permanent verbod dat Harwood verbiedt in de toekomst gebruik te maken van Grok of andere xAI-diensten.
De indiening is een van de eerste bekende gevallen waarin een AI-ontwikkelaar een van zijn eigen gebruikers heeft aangeklaagd wegens de vermeende creatie van illegale inhoud. In plaats van zich uitsluitend te richten op politieacties, stelt xAI dat civiele rechtszaken kunnen helpen het misbruik van generatieve AI-systemen te ontmoedigen en tegelijkertijd het beleid voor acceptabel gebruik van het bedrijf te versterken.
Harwood werd in februari gearresteerd nadat onderzoekers naar verluidt seksueel misbruikmateriaal van kinderen op zijn elektronische apparaten hadden ontdekt. Volgens xAI zijn sommige van de beelden die betrokken zijn bij het strafrechtelijk onderzoek gemaakt of aangepast met behulp van Groks beeldgeneratiemogelijkheden. De strafzaak blijft gescheiden van de civiele rechtszaak van het bedrijf.
De rechtszaak volgt na maanden van onderzoek naar Groks beeldgeneratiefuncties. Eerder dit jaar kreeg xAI kritiek en meerdere juridische uitdagingen nadat gebruikers aantoonden dat de chatbot niet-consensuele seksuele deepfakes kon genereren, waaronder gemanipuleerde afbeeldingen met minderjarigen. Het bedrijf heeft sindsdien extra waarborgen ingevoerd en zegt actief misbruikende accounts te verwijderen en illegale activiteiten te melden bij het National Center for Missing & Exploited Children. Volgens xAI heeft het in 2026 meer dan 52.000 accounts opgeschort en meer dan 73.000 meldingen ingediend bij de organisatie, wat heeft bijgedragen aan minstens 244 arrestaties.