De Britse overheid onderzoekt mogelijke regelgevende maatregelen tegen sociale media X na berichten dat het geïntegreerde kunstmatige intelligentie-instrument, Grok, is gebruikt om geseksualiseerde beelden te genereren. Functionarissen zeiden dat de beoordeling zich richt op de vraag of het platform voldoet aan de Britse online veiligheidseisen, nadat er zorgen waren geuit over het creëren en delen van niet-consensuele en gemanipuleerde beelden.
Het probleem draait om de beeldgeneratiefuncties van Grok, waarmee gebruikers afbeeldingen kunnen maken of wijzigen op basis van tekstprompts. Rapporten die door Britse functionarissen worden aangehaald, geven aan dat het instrument is gebruikt om seksualiseerde afbeeldingen van personen zonder toestemming te maken, waaronder beelden met minderjarigen. Regeringsvertegenwoordigers verklaarden dat dergelijk materiaal de Britse wetgeving kan overtreden en aanzienlijke risico’s voor de online veiligheid kan vormen.
Grok wordt ontwikkeld door xAI, waarvan het moederbedrijf van X is bezit. Als reactie op kritiek beperkte X enkele van Groks beeldgeneratie- en bewerkingsfuncties tot betalende abonnees. Britse functionarissen zeiden dat deze wijziging de onderliggende zorgen over schadelijke inhoud op het platform niet aanpakt.
De Britse communicatietoezichthouder Ofcom heeft contact opgenomen met X als onderdeel van haar toezichtsverantwoordelijkheden. Volgens het Britse online veiligheidskader zijn platforms verplicht de verspreiding van illegale en schadelijke inhoud te voorkomen en snel op te treden wanneer dergelijk materiaal verschijnt. Ofcom heeft de bevoegdheid om boetes op te leggen of andere handhavingsmaatregelen te nemen als bedrijven deze verplichtingen niet nakomen.
Overheidsbronnen zeiden dat alle regelgevende opties nog in overweging zijn, inclusief beperkingen op toegang tot het platform als complianceproblemen niet worden opgelost. Er is nog geen beslissing bekendgemaakt en functionarissen zeiden dat de besprekingen met het bedrijf gaande zijn.
De situatie heeft geleid tot actie in andere landen. Autoriteiten in Maleisië en Indonesië hebben de toegang tot Rok al beperkt, vanwege zorgen over niet-consensuele seksuele beelden en digitale schade. Deze maatregelen hebben bijgedragen aan internationale controle op AI-tools die gebruikt kunnen worden om expliciete content te genereren.
Britse functionarissen zeiden dat de zaak bredere uitdagingen benadrukt bij het reguleren van generatieve kunstmatige intelligentie. Zij benadrukten dat technologiebedrijven geacht worden ervoor te zorgen dat nieuwe hulpmiddelen verantwoord worden ingezet en in overeenstemming met nationale wetten die bedoeld zijn om gebruikers, met name kinderen, te beschermen. Verdere stappen zullen afhangen van de uitkomst van de regelgevende beoordelingen en de reactie van X op handhavingsverzoeken.