Zuid-Korea wordt geconfronteerd met een snel escalerende golf van door AI aangestuurde zedendelicten, nu autoriteiten enorme netwerken ontdekken die deepfake-pornografie creëren en verspreiden gericht op vrouwen en minderjarigen.
De nieuwste zaak betreft een IT-aannemer die ervan wordt beschuldigd meer dan 221.000 privéfoto’s van scholen, ziekenhuizen en openbare instellingen te hebben gestolen om seksueel expliciete deepfake-inhoud te creëren. Volgens onderzoekers zou de verdachte gestolen beelden hebben gebruikt om niet-consensuele pornografie te maken en het materiaal jarenlang online hebben verspreid.
De politie ontdekte naar verluidt meer dan 400GB aan illegaal materiaal tijdens het onderzoek, waaronder deepfake-, verborgen camera-opnames en seksueel misbruik van kinderen. De autoriteiten zeiden dat de verdachte toegang kreeg tot gevoelige systemen terwijl hij als aannemer voor meerdere organisaties werkte.
De zaak is het nieuwste voorbeeld van de groeiende deepfake-exploitatiecrisis in Zuid-Korea, die is geïntensiveerd samen met de vooruitgang in generatieve AI-tools en de verspreiding van versleutelde online gemeenschappen. Experts waarschuwen dat steeds toegankelijker wordende AI-software nu gewone gebruikers in staat stelt realistische nep-seksuele beelden te creëren met slechts een handvol openbaar beschikbare foto’s.
Zuid-Koreaanse autoriteiten hebben herhaaldelijk gewaarschuwd dat tieners steeds vaker betrokken raken bij zowel slachtoffers als daders. Politiegegevens die door Reuters worden aangehaald, toonden aan dat deepfake-onderzoeken naar zedendelicten sterk zijn gestegen van 156 zaken in 2021 tot honderden zaken per jaar in 2024, met veel incidenten die verband houden met scholen en universiteitsgemeenschappen.
Veel van de distributie van de inhoud zou zich hebben gericht op Telegram-chatrooms, die een belangrijk aandachtspunt zijn geworden voor Zuid-Koreaanse onderzoekers. De autoriteiten zijn eerder onderzoeken gestart naar Telegram-gerelateerde deepfake-netwerken nadat grote groepen AI-gegenereerde seksuele inhoud hadden gedeeld die gericht was op Koreaanse vrouwen en meisjes.
De kwestie heeft brede publieke verontwaardiging veroorzaakt in heel Zuid-Korea, waar digitale zedendelicten al jaren een belangrijk sociaal en politiek probleem zijn na schandalen zoals het beruchte misbruiknetwerk “Nth Room”. Onderzoekers zeggen dat de toename van door AI gegenereerde uitbuiting de schaal en toegankelijkheid van online misbruik drastisch heeft vergroot.
Volgens een industrierapport uit 2023, verwezen door Reuters, vormen Zuid-Koreaanse vrouwen een onevenredig groot deel van de slachtoffers die wereldwijd in deepfake-voorkomen, waaronder K-popzangers, studenten, influencers en gewone burgers.
Critici stellen dat AI-tools exploitatie makkelijker, sneller en moeilijker te detecteren hebben gemaakt. Moderne deepfake-software kan binnen enkele minuten realistische nep-seksuele beelden genereren met behulp van consumentenhardware en publiek beschikbare machine learning-modellen. Onderzoekers hebben onlangs tienduizenden downloadbare deepfake-modelvarianten geïdentificeerd die online circuleren, waarvan vele specifiek zijn ontworpen om niet-consensuele expliciete content te creëren die zich op vrouwen richt.
De groeiende crisis heeft geleid tot steeds agressievere juridische reacties in Zuid-Korea. Wetgevers hebben in 2024 de wetgeving verstevigd om niet alleen het maken en verspreiden van seksueel uitbuitende deepfakes, maar ook het bezit, bekijken en opslaan van dergelijk materiaal strafbaar te stellen. Overtreders kunnen gevangenisstraffen en aanzienlijke boetes krijgen.
Autoriteiten hebben ook hun monitoringsoperaties uitgebreid, speciale cybercrime-onderzoeken gestart en online platforms onder druk gezet om illegale inhoud agressiever te verwijderen. Desondanks waarschuwen experts dat handhaving moeilijk blijft omdat deepfake-inhoud zich snel verspreidt via versleutelde kanalen, anonieme forums en buitenlandse websites.
Onderzoekers die digitaal seksueel geweld in Zuid-Korea bestuderen, stellen dat het probleem verder gaat dan alleen de technologie zelf. Recente academische analyses beschreven deepfake-misbruik als onderdeel van een breder patroon van online misogynie, intimidatie en uitbuiting, versterkt door steeds geavanceerdere digitale tools.
Privacyvoorvechters en slachtoffersteungroepen waarschuwen dat de psychologische schade veroorzaakt door deepfake zedendelicten verwoestend kan zijn, vooral omdat slachtoffers vaak moeite hebben om gemanipuleerde beelden volledig te verwijderen zodra ze online verspreid zijn. Zelfs als het nep is, kan de inhoud nog steeds reputatieschade, trauma, chantage en langdurige intimidatie veroorzaken.
Het nieuwste onderzoek benadrukt hoe door AI gegenereerde exploitatie een van de snelst groeiende vormen van cyber-ondersteund misbruik wereldwijd wordt, nu overheden racen om wetten en handhavingsstrategieën aan te passen aan snel evoluerende generatieve AI-technologie.