Malaysia und Indonesien haben den Zugang zu Grok, einem in X integrierten künstlichen Intelligenzwerkzeug, blockiert, nachdem Behörden erklärten, dass es zur Erstellung schädlicher Deepfake-Bilder verwendet wird. Beamte beider Länder erklärten, die Maßnahmen seien ergriffen worden, um die Verbreitung von nicht einvernehmlichen und sexualisierten Inhalten, die mit dem Tool erstellt wurden, zu begrenzen.
In Indonesien teilte das Ministerium für Kommunikation und Informatik mit, dass Grok suspendiert wurde, nachdem festgestellt wurde, dass es in der Lage war, manipulierte Bilder zu produzieren, die gegen nationale Gesetze und gesellschaftliche Normen verstoßen. Das Ministerium erklärte, dass bestehende Vorschriften es den Behörden erlauben, digitale Dienste einzuschränken, die die Verbreitung verbotener Inhalte ermöglichen, einschließlich Material, das Einzelpersonen schädigt oder die öffentliche Ordnung untergräbt. Beamte erklärten, der Block werde bestehen bleiben, bis die Schutzmaßnahmen verstärkt werden.
Die malaysische Kommunikationsaufsichtsbehörde ergriff ähnliche Maßnahmen und verwies auf Bedenken, dass Groks Bildgenerierungsfunktionen missbraucht werden könnten, um Deepfakes ohne ausreichende Kontrolle zu erstellen. Die Regulierungsbehörde erklärte, die Plattform habe nicht ausreichende technische Maßnahmen zur Vermeidung von Missbrauch gezeigt und habe sich zu sehr auf Nutzerberichterstattung statt auf proaktive Moderation verlassen. Der Zugang zum Tool wurde eingeschränkt, während die Behörden die Einhaltung lokaler Inhalts- und Sicherheitsvorschriften überprüften.
Grok wird von xAI entwickelt, das durch gemeinsames Eigentum mit X verbunden ist. Das Tool erregte Aufmerksamkeit, nachdem Nutzer seine Fähigkeit demonstriert hatten, veränderte und sexualisierte Bilder aus Textprompts zu generieren. Kritiker sagten, solche Fähigkeiten bergen Risiken für die Privatsphäre und die persönliche Sicherheit, insbesondere für Frauen und Kinder.
Beide Regierungen erklärten, die Beschränkungen seien vorsorglich und konzentrierten sich auf den Schutz der Nutzer. Indonesische Beamte sagten, sie hätten von X und xAI um Klarstellung gebeten, wie das Tool lokal eingesetzt wird und welche Maßnahmen zur Verhinderung von Missbrauch getroffen werden. Die malaysischen Behörden erklärten, der Zugang könne wiederhergestellt werden, wenn die Betreiber wirksame Kontrollen nachweisen, die regulatorischen Standards entsprechen.
Die Sperren markieren die ersten bekannten nationalen Beschränkungen für Grok, die speziell mit Deepfake-Bedenken zusammenhängen. Diese Maßnahmen folgen einer breiteren internationalen Prüfung generativer künstlicher Intelligenz und ihres Potenzials, schädliche oder irreführende Inhalte zu erstellen. Regulierungsbehörden in mehreren Ländern haben erklärt, dass bestehende Gesetze für KI-Systeme gelten können, wenn sie illegales oder schädliches Material ermöglichen.
xAI hat zuvor einige Funktionen zur Bilderzeugung eingeschränkt und die Zugriffseinstellungen nach Kritik angepasst. Behörden in Malaysia und Indonesien erklärten, dass weitere technische und politische Änderungen erforderlich seien, bevor der Dienst den normalen Betrieb wieder aufnehmen könne.