Drie tieners hebben een rechtszaak aangespannen tegen xAI, een kunstmatige intelligentiebedrijf opgericht door Elon Musk, waarin ze beweren dat hun Grok-chatbot werd gebruikt om seksueel expliciete beelden van hen te maken toen ze minderjarig waren. De klacht werd ingediend bij een Amerikaanse federale rechtbank en beschuldigt het bedrijf ervan misbruik van zijn beeldgeneratietools niet te hebben voorkomen.
Volgens het dossier gebruikte een derde partij Groks beeldbewerkingsmogelijkheden om bestaande foto’s van de tieners te bewerken, waaronder beelden afkomstig van sociale media en schoolgerelateerde omgevingen. De tool zou naar verluidt gebruikt zijn om expliciete afbeeldingen te maken door die foto’s te bewerken. De beelden werden later gedeeld op online platforms, waaronder berichtendiensten, waar ze onder gebruikers circuleerden.
De rechtszaak stelt dat de persoon die verantwoordelijk was voor het maken van de beelden in december is gearresteerd. De autoriteiten zeiden dat de persoon bewerkte beelden had geproduceerd met meerdere minderjarigen, van wie sommigen op dezelfde school gingen. Onderzoekers meldden ook dat een deel van het materiaal binnen online groepen werd uitgewisseld.
De eisers stellen dat xAI geen adequate waarborgen heeft geïmplementeerd om het creëren van dergelijke inhoud te voorkomen. De klacht stelt dat Groks ontwerp gebruikers in staat stelde expliciet materiaal te genereren met echte personen, waaronder minderjarigen, via beeldmodificatiefuncties. Advocaten die de tieners vertegenwoordigen stellen dat het bedrijf het risico op misbruik had moeten voorzien.
De rechtszaak eist schadevergoeding met betrekking tot het maken en verspreiden van de afbeeldingen. Het pleit ook voor beperkingen op de beeldbewerkingsfuncties van Rok en aanvullende maatregelen om soortgelijke incidenten te voorkomen.
xAI heeft eerder verklaard dat haar systemen bedoeld zijn om te voldoen aan de geldende wetgeving en waarborgen tegen illegale inhoud te bieden. Elon Musk heeft gezegd dat hij niet op de hoogte was van gevallen waarin Grok expliciete afbeeldingen van minderjarigen genereerde.
De zaak draait om het gebruik van kunstmatige intelligentie-tools om echte beelden te veranderen en de verantwoordelijkheden van bedrijven die dergelijke systemen ontwikkelen.