De Japanse politie heeft een 31-jarige man gearresteerd op verdenking van het creëren en verkopen van seksueel expliciete beelden van vrouwelijke beroemdheden met behulp van generatieve kunstmatige intelligentietechnologie. De arrestatie werd verricht door de politie van de metropool van Tokio, die zei dat de verdachte deepfake-inhoud uploadde naar betaalde lidmaatschapswebsites en gebruikmaakte van publiek beschikbare AI-tools om het materiaal te produceren.
Volgens onderzoeksbronnen gaf de verdachte, geïdentificeerd als Tatsuro Chiba uit Sapporo in de prefectuur Hokkaido, tijdens het verhoor de beschuldigingen toe. De politie denkt dat hij tussen december 2024 en mei 2025 minstens 2.200 expliciete deepfake-afbeeldingen op abonnementssites heeft geplaatst en met deze activiteit ongeveer 11 miljoen yen (ongeveer 70.000 Amerikaanse dollar) heeft verdiend. De autoriteiten vonden ongeveer 520.000 opgeslagen deepfake-afbeeldingen op zijn computer, waarvan er veel naar verluidt gefictionaliseerde gelijkenissen van actrices en popidolen toonden.
De politie beweert dat de verdachte generatieve AI-software gebruikte om modellen te trainen op afbeeldingen van ongeveer 300 vrouwelijke publieke figuren, waaronder actrices en entertainers, waardoor de productie van de expliciete beelden mogelijk werd. Onderzoekers verklaarden dat de verdachte de inhoud via sociale media promootte om betalende abonnees aan te trekken en aangepaste beeldverzoeken aanbood tegen hogere kosten. De deepfakes werden gehost op lidmaatschapsplatforms waar gebruikers toegang hadden tot het materiaal via betaalde abonnementen.
De zaak benadrukt opkomende juridische en handhavingsuitdagingen in Japan met betrekking tot het misbruik van generatieve AI. De huidige Japanse wet strafbaar stelt niet expliciet het creëren van door AI gegenereerde deepfakes strafbaar, maar de verspreiding van obsceen materiaal en commerciële exploitatie kunnen worden vervolgd op grond van obsceniteits- en andere wetten. Autoriteiten melden dat deze zaak een belangrijke handhavingsmaatregel vormt tegen de commerciële productie en het delen van seksueel expliciete deepfake-inhoud.
Politieonderzoeken begonnen nadat online meldingen van deepfake-inhoud aandacht trokken, wat leidde tot een onderzoek naar de activiteiten van de verdachte en de betrokken ledenwebsites. De arrestatie werd verricht op verdenking van het verspreiden van obscene afbeeldingen in strijd met de Japanse wet, hoewel aanklachten en mogelijke straffen niet formeel openbaar zijn toegelegd door de aanklagers. De autoriteiten zeggen dat het onderzoek nog steeds actief is terwijl ze de omvang van de productie en distributie van de deepfake analyseren.
Deskundigen hebben opgemerkt dat generatieve AI-tools technische drempels hebben verlaagd voor het creëren van realistische synthetische beelden, wat zorgen baart onder juridische experts, wetshandhaving en voorvechters van het maatschappelijk middenveld. Het juridische kader van Japan wordt kritisch onderzocht terwijl functionarissen en beleidsmakers overwegen of updates of nieuwe wetgeving nodig zijn om de schade aan te pakken die wordt veroorzaakt door niet-consensuele deepfake-beelden en commerciële exploitatie van kunstmatige intelligentietechnologieën.
De actie van de politie van de metropool van Tokio maakt deel uit van bredere inspanningen om online misdrijven aan te pakken waarbij AI-misbruik en de verspreiding van obsceen digitale inhoud worden verspreid. Vergelijkbare zaken zijn wereldwijd naar voren gekomen nu autoriteiten proberen de regulering van digitale technologieën in balans te brengen met de handhaving van bestaande obsceniteits- en distributiewetten.