Democratische wetgevers in de Amerikaanse Senaat hebben Apple en Google opgeroepen X en de bijbehorende kunstmatige intelligentietool Grok uit hun appwinkels te verwijderen. De senatoren zeiden dat het verzoek volgt op berichten dat Grok is gebruikt om niet-consensuele en geseksualiseerde beelden te genereren, waaronder inhoud met minderjarigen.
In een brief aan de twee bedrijven zeiden de senatoren dat de voortdurende beschikbaarheid van X en Grok in strijd kan zijn met de regels van de app store die schadelijk of uitbuitend materiaal verbieden. Zij stelden dat Apple en Google de verantwoordelijkheid hebben hun eigen beleid te handhaven wanneer apps die via hun platforms worden verspreid in verband worden gebracht met het creëren of verspreiden van onwettige inhoud.
De brief werd ondertekend door senatoren Ron Wyden, Ben Ray Luján en Ed Markey. De wetgevers zeiden dat recente wijzigingen die door X en xAI zijn aangekondigd, waaronder het beperken van sommige beeldgeneratiefuncties tot betalende gebruikers, de risico’s die met de technologie gepaard gaan niet voldoende aanpakken. Zij zeiden dat schadelijk materiaal toegankelijk blijft en dat beperkingen op basis van abonnementsstatus geen effectieve waarborgen vormen.
De richtlijnen van Apple in de App Store verbieden inhoud die seksuele uitbuiting of materiaal bevat dat schadelijk is voor kinderen. Het beleid van Google Play Store beperkt op vergelijkbare wijze apps die niet-consensuele seksuele inhoud mogelijk maken of faciliteren. De senatoren zeiden dat het niet handelen de geloofwaardigheid van die regels kan ondermijnen en gebruikers kan blootstellen aan voortdurende schade.
Noch Apple noch Google hebben publiekelijk aangegeven of ze van plan zijn X of Grok te verwijderen als reactie op het verzoek. X en xAI hebben ook op het moment van de melding geen formeel antwoord op de brief gegeven.
De aantrekkingskracht komt te midden van bredere aandacht voor generatieve kunstmatige intelligentie-tools en hun vermogen om realistische maar schadelijke beelden te produceren. Wetgevers zeiden dat de zaak de groeiende druk op platformbeheerders en app-distributeurs benadrukt om de risico’s van AI-systemen aan te pakken die misbruikt kunnen worden om misbruik of exploitatieve content te creëren.