Drei Jugendliche haben eine Klage gegen xAI, ein von Elon Musk gegründetes Unternehmen für künstliche Intelligenz, eingereicht und behaupten, dass dessen Grok-Chatbot dazu verwendet wurde, sexuell explizite Bilder von ihnen zu erzeugen, als sie minderjährig waren. Die Beschwerde wurde vor einem US-Bundesgericht eingereicht und wirft dem Unternehmen vor, den Missbrauch seiner Bildgenerierungswerkzeuge nicht verhindert zu haben.
Laut dem Antrag nutzte eine dritte Partei Groks Bildbearbeitungsfähigkeiten, um bestehende Fotos der Jugendlichen zu verändern, darunter Bilder aus sozialen Medien und schulbezogenen Umgebungen. Das Tool wurde angeblich verwendet, um explizite Bilder zu erstellen, indem diese Fotos bearbeitet wurden. Die Bilder wurden später auf Online-Plattformen, einschließlich Messaging-Diensten, geteilt, wo sie unter den Nutzern verbreitet wurden.
Die Klage besagt, dass die Person, die für die Erstellung der Bilder verantwortlich war, im Dezember festgenommen wurde. Die Behörden erklärten, die Person habe veränderte Bilder mit mehreren Minderjährigen erstellt, von denen einige dieselbe Schule besuchten. Ermittler berichteten außerdem, dass ein Teil des Materials innerhalb von Online-Gruppen ausgetauscht wurde.
Die Kläger behaupten, xAI habe keine ausreichenden Schutzmaßnahmen umgesetzt, um die Erstellung solcher Inhalte zu verhindern. Die Klageschrift behauptet, dass Groks Design es den Nutzern ermöglichte, explizites Material mit realen Personen, einschließlich Minderjähriger, durch Bildänderungsfunktionen zu erstellen. Die Anwälte, die die Jugendlichen vertreten, argumentieren, dass das Unternehmen das Missbrauchsrisiko hätte voraussehen müssen.
Die Klage fordert Schadensersatz im Zusammenhang mit der Erstellung und Verbreitung der Bilder. Es sieht außerdem Einschränkungen der Bildbearbeitungsfunktionen von Rok und zusätzliche Maßnahmen zur Verhinderung ähnlicher Vorfälle vor.
xAI hat zuvor erklärt, dass seine Systeme darauf ausgelegt sind, geltende Gesetze einzuhalten und Schutzmaßnahmen gegen illegale Inhalte zu bieten. Elon Musk hat erklärt, dass ihm keine Fälle bekannt seien, in denen Grok explizite Bilder von Minderjährigen erzeugt hat.
Der Fall konzentriert sich auf den Einsatz künstlicher Intelligenz zur Veränderung realer Bilder und auf die Verantwortlichkeiten von Unternehmen, die solche Systeme entwickeln.