Demokratische Gesetzgeber im US-Senat haben Apple und Google aufgefordert, X und das zugehörige künstliche Intelligenz-Tool Grok aus ihren App-Stores zu entfernen. Die Senatoren sagten, der Antrag folge auf Berichte, wonach Grok verwendet wurde, um nicht einvernehmliche und sexualisierte Bilder zu erzeugen, einschließlich Inhalten mit Minderjährigen.
In einem Schreiben an die beiden Unternehmen erklärten die Senatoren, dass die fortgesetzte Verfügbarkeit von X und Grok mit den App-Store-Regeln kollidieren könnte, die schädliches oder ausbeuterisches Material verbieten. Sie argumentierten, dass Apple und Google die Verantwortung haben, ihre eigenen Richtlinien durchzusetzen, wenn Apps, die über ihre Plattformen verbreitet werden, mit der Erstellung oder Verbreitung rechtswidriger Inhalte in Verbindung stehen.
Der Brief wurde von den Senatoren Ron Wyden, Ben Ray Luján und Ed Markey unterzeichnet. Die Gesetzgeber erklärten, dass die jüngsten von X und xAI angekündigten Änderungen, einschließlich der Beschränkung einiger Bildgenerierungsfunktionen auf zahlende Nutzer, die mit der Technologie verbundenen Risiken nicht ausreichend adressieren. Sie sagten, schädliches Material bleibe zugänglich und dass Einschränkungen aufgrund des Abonnementstatus keine wirksamen Schutzmaßnahmen darstellen.
Apples App-Store-Richtlinien verbieten Inhalte, die sexuelle Ausbeutung oder schädliches Material für Kinder enthalten. Die Google-Play-Store-Richtlinien schränken ebenfalls Apps ein, die nicht einvernehmliche sexuelle Inhalte ermöglichen oder ermöglichen. Die Senatoren sagten, ein Versäumnis, die Glaubwürdigkeit dieser Regeln untergraben und die Nutzer anhaltenden Schäden aussetzen könnte.
Weder Apple noch Google haben öffentlich angegeben, ob sie planen, X oder Grok als Reaktion auf die Anfrage zu entfernen. X und xAI haben zum Zeitpunkt der Meldung ebenfalls keine formelle Antwort auf den Brief abgegeben.
Der Reiz entsteht angesichts einer breiteren Prüfung generativer künstlicher Intelligenz und ihrer Fähigkeit, realistische, aber schädliche Bilder zu erzeugen. Gesetzgeber sagten, der Fall unterstreiche den wachsenden Druck auf Plattformbetreiber und App-Distributoren, die Risiken durch KI-Systeme anzugehen, die missbraucht werden können, um missbräuchliche oder ausbeuterische Inhalte zu erstellen.