Die britische Labour-Abgeordnete Jess Asato bittet das High Court in London, Elon Musks künstliche Intelligenzfirma xAI anzuweisen, seinen Grok-Chatbot daran zu hindern, nicht einvernehmliche, sexualisierte Bilder von ihr zu erzeugen. Die Klage argumentiert, dass das Design der Plattform die Erstellung manipulierter Inhalte ermöglicht, die ihre Datenschutz- und Datenschutzrechte verletzen.
Asato kündigte letzten Monat rechtliche Schritte an, nachdem Nutzer angeblich gefälschte, sexualisierte Bilder erstellt hatten, die sie durch Rok zeigten. Laut ihren Gerichtsunterlagen zeigte eines der generierten Videos, wie sie vor einem sexuellen Übergriff chloroformiert wurde, was sie dazu veranlasste, rechtliche Schritte gegen den KI-Entwickler einzuleiten.
Die Behauptung wirft xAI vor, private Informationen missbraucht und gegen britische Datenschutzgesetze verstoßen zu haben. Asato argumentiert, dass die Art und Weise, wie Grok gestaltet und trainiert wurde, es den Nutzern ermöglichte, die umstrittenen Inhalte zu erstellen.
Gerichtsunterlagen zeigen, dass sie eine einstweilige Verfügung beantragt, die xAI verpflichtet, das einzuführen, was ihr Anwaltsteam als wirksame und dauerhafte technische Schutzmaßnahmen beschreibt. Falls die Anordnung erteilt wird, würde sie Grok verpflichten, die Erstellung manipulierter, sexualisierter Bilder zu verhindern, die sie zeigen.
Laut Asatos Anwälten könnte der Fall einen wichtigen rechtlichen Präzedenzfall schaffen, indem er Datenschutz- und Datenschutzgesetze direkt auf die Gestaltung und den Betrieb eines generativen KI-Systems anwendet. Sie sagen, dass kein früherer Fall eine solche Abhilfe gegen einen KI-Entwickler im Vereinigten Königreich gefordert habe.
xAI hatte zum Zeitpunkt der Einreichung nicht öffentlich auf die Vorwürfe reagiert. Das Unternehmen hatte auch keine Verteidigung im Verfahren des High Court eingereicht.
Grok ist in Musks Social-Media-Plattform X integriert und wurde in mehreren Ländern wegen seiner Fähigkeit, nicht einvernehmliche, sexualisierte Bilder zu erzeugen, behördlich überprüft. Die rechtliche Maßnahme gegen xAI folgt auf breitere Bedenken darüber, wie generative KI-Tools genutzt werden können, um realistische Bilder von Menschen ohne deren Erlaubnis zu erstellen.
Die Klage verweist außerdem auf interne Systemhinweise, die angeblich Groks Verhalten bestimmten. Laut den Gerichtsunterlagen wies eine Anweisung den Chatbot an, Nutzern nicht zu helfen, die eindeutig kriminelle Aktivitäten ausüben. Asatos Anwaltsteam argumentiert jedoch, dass andere Hinweise besagten, dass das System keine Einschränkungen für sexuelle Inhalte oder anstößige Inhalte für Erwachsene habe, einschließlich fiktiver sexueller Inhalte mit gewalttätigen Themen.
Ihr Anwalt, Ravi Naik, sagte, das Verhalten des Chatbots spiegele Entscheidungen wider, die während der Entwicklung getroffen wurden, und nicht unvorhersehbare Handlungen der Software selbst. Er argumentierte, dass diese Designentscheidungen rechtliche Konsequenzen haben sollten, und die beantragte gerichtliche Anordnung würde das System verpflichtet, die britischen Standards einzuhalten, falls xAI die notwendigen Änderungen nicht freiwillig vornehme.
Der Fall folgt auf frühere Bemühungen von xAI, die Bilderzeugung einzuschränken. Im Januar kündigte das Unternehmen Einschränkungen bei der Bildbearbeitung an und blockierte Anfragen für Personen in freizügiger Kleidung, wo dies gegen lokale Gesetze verstoßen würde. Reuters berichtete jedoch im Februar, dass Grok weiterhin in der Lage sei, sexualisierte Bilder von Personen zu erzeugen, selbst wenn Nutzer ausdrücklich angaben, dass die Personen nicht zugestimmt hätten.
Die Klage im Vereinigten Königreich ist eine von mehreren Rechtsstreitigkeiten, die Rok betreffen. Anfang dieses Jahres reichte die Stadt Baltimore eine Klage gegen xAI wegen KI-generierter sexualisierter Bilder ein, während weitere Verfahren auch in den Vereinigten Staaten und den Niederlanden eingeleitet wurden. xAI hat sich öffentlich zu Asatos konkreten Behauptungen nicht geäußert, und der Fall am High Court ist noch anhängig.