Die britische Regierung prüft mögliche regulatorische Maßnahmen gegen soziale Medien X, nachdem Berichte darüber bekannt wurden, dass ihr integriertes künstliches Intelligenz-Tool Rok zur Erzeugung sexualisierter Bilder verwendet wurde. Beamte erklärten, die Überprüfung konzentriert sich darauf, ob die Plattform die britischen Online-Sicherheitsanforderungen einhält, nachdem Bedenken hinsichtlich der Erstellung und des Teilens nicht einvernehmlicher und manipulierter Bilder geäußert wurden.
Das Problem dreht sich um die Bildgenerierungsfunktionen von Grok, die es den Nutzern ermöglichen, Bilder basierend auf Texteingaben zu erstellen oder zu verändern. Von britischen Behörden zitierte Berichte deuten darauf hin, dass das Instrument verwendet wurde, um sexualisierte Darstellungen von Personen ohne Zustimmung zu erstellen, darunter Bilder mit Minderjährigen. Regierungsvertreter erklärten, dass solches Material gegen britisches Recht verstoßen und erhebliche Risiken für die Online-Sicherheit darstellen könne.
Grok wird von xAI entwickelt, dem Mutterkonzern von X. Als Reaktion auf Kritik beschränkte X einige der Bildgenerierungs- und Bearbeitungsfunktionen von Grok auf zahlende Abonnenten. Britische Beamte erklärten, dass diese Änderung die zugrundeliegenden Bedenken hinsichtlich schädlicher Inhalte auf der Plattform nicht adressiert.
Die britische Kommunikationsaufsichtsbehörde Ofcom hat X im Rahmen seiner Aufsichtsaufgaben kontaktiert. Nach dem britischen Online-Sicherheitsrahmen sind Plattformen verpflichtet, die Verbreitung illegaler und schädlicher Inhalte zu verhindern und schnell zu handeln, wenn solches Material erscheint. Ofcom hat die Befugnis, Geldbußen oder andere Durchsetzungsmaßnahmen zu verhängen, wenn Unternehmen diese Verpflichtungen nicht erfüllen.
Regierungsquellen erklärten, dass alle regulatorischen Optionen weiterhin geprüft werden, einschließlich Einschränkungen des Zugangs zur Plattform, falls Compliance-Probleme nicht gelöst werden. Eine Entscheidung wurde noch nicht bekannt gegeben, und die Verantwortlichen sagten, die Gespräche mit dem Unternehmen seien noch im Gange.
Die Situation hat auch in anderen Ländern zu Maßnahmen geführt. Behörden in Malaysia und Indonesien haben den Zugang zu Rok bereits eingeschränkt und begründen Bedenken hinsichtlich nicht einvernehmlicher sexueller Bilder und digitalen Schäden. Diese Maßnahmen haben die internationale Kontrolle über KI-Werkzeuge erhöht, die zur Erstellung expliziter Inhalte verwendet werden können.
Britische Beamte erklärten, der Fall verdeutliche größere Herausforderungen bei der Regulierung generativer künstlicher Intelligenz. Sie betonten, dass von Technologieunternehmen erwartet wird, dass neue Werkzeuge verantwortungsvoll und im Einklang mit nationalen Gesetzen eingesetzt werden, die zum Schutz von Nutzern, insbesondere Kindern, ausgeübt werden. Weitere Schritte hängen vom Ergebnis der regulatorischen Bewertungen und der Reaktion von X auf Durchsetzungsanfragen ab.