Elon Musks Unternehmen xAI für künstliche Intelligenz hat eine Klage gegen einen Mann aus South Carolina eingereicht, dem vorgeworfen wird, seinen Grok-Chatbot genutzt zu haben, um Material über sexuellen Kindesmissbrauch und sexuell explizite Deepfakes zu erstellen. Die Zivilklage richtet sich gegen Terry Wayne Harwood, der zuvor wegen staatlicher Strafanzeigen im Zusammenhang mit sexuellem Kindesmissbrauch festgenommen wurde. xAI sagt, die Klage solle Nutzer für den Missbrauch seiner KI-Tools zur Erstellung illegaler Inhalte zur Rechenschaft ziehen.
Laut der Klage soll Harwood Grok genutzt haben, um Bilder zu erstellen oder zu verändern, die sexuellen Kindesmissbrauch und nicht einvernehmliche explizite Inhalte mit Erwachsenen und Minderjährigen zeigen. xAI behauptet, er habe absichtlich die Sicherheitsmaßnahmen des Chatbots umgangen und gegen die Nutzungsbedingungen der Plattform verstoßen und das Unternehmen rechtlichen und reputationsbezogenen Schäden ausgesetzt. Das Unternehmen fordert finanzielle Schadensersatzzahlungen, Erstattung der Anwaltskosten und eine dauerhafte einstweilige Verfügung, die Harwood daran hindert, Grok oder andere xAI-Dienste in Zukunft zu nutzen.
Die Einreichung markiert einen der ersten bekannten Fälle, in denen ein KI-Entwickler einen seiner eigenen Nutzer wegen der angeblichen Erstellung illegaler Inhalte verklagt hat. Anstatt sich ausschließlich auf Strafverfolgungsmaßnahmen zu konzentrieren, argumentiert xAI, dass Zivilklagen dazu beitragen können, den Missbrauch generativer KI-Systeme zu verhindern und gleichzeitig die akzeptable Nutzungsrichtlinien des Unternehmens zu stärken.
Harwood wurde im Februar festgenommen, nachdem Ermittler angeblich sexuellen Kindesmissbrauch auf seinen elektronischen Geräten entdeckt hatten. Laut xAI wurden einige der im Strafverfahren beteiligten Bilder mithilfe von Groks Bildgenerierungsfunktionen erstellt oder verändert. Das Strafverfahren bleibt getrennt von der zivilrechtlichen Klage des Unternehmens.
Die Klage kommt nach monatelanger Prüfung der Bildgenerierungsfunktionen von Grok. Anfang dieses Jahres sah sich xAI Kritik und mehreren rechtlichen Herausforderungen ausgesetzt, nachdem Nutzer gezeigt hatten, dass der Chatbot nicht einvernehmliche sexuelle Deepfakes erzeugen konnte, einschließlich manipulierter Bilder von Minderjährigen. Das Unternehmen hat inzwischen zusätzliche Schutzmaßnahmen eingeführt und erklärt, dass es aktiv missbräuchliche Konten entfernt und illegale Aktivitäten beim National Center for Missing and Exploited Children meldet. Laut xAI hat es im Jahr 2026 mehr als 52.000 Konten gesperrt und über 73.000 Meldungen an die Organisation übermittelt, was zu mindestens 244 Festnahmen beigetragen hat.