La Corea del Sud sta affrontando un’ondata di crimini sessuali basati sull’IA in rapida escalation mentre le autorità scoprono enormi reti che creano e distribuiscono pornografia deepfake rivolta a donne e minori.
L’ultimo caso riguarda un appaltatore IT accusato di aver rubato più di 221.000 foto private da scuole, ospedali e istituzioni pubbliche per creare contenuti deepfake sessualmente espliciti. Secondo gli investigatori, il sospetto avrebbe usato immagini rubate per generare pornografia non consensuale e avrebbe distribuito il materiale online per diversi anni.
La polizia avrebbe scoperto più di 400GB di materiale illegale durante l’indagine, inclusi pornografia deepfake, registrazioni con telecamere nascoste e contenuti di abusi sessuali su minori. Le autorità hanno dichiarato che il sospetto ha avuto accesso a sistemi sensibili mentre lavorava come appaltatore per diverse organizzazioni.
Il caso è l’ultimo esempio della crescente crisi di sfruttamento deepfake in Corea del Sud, che si è intensificata insieme ai progressi negli strumenti di IA generativa e alla diffusione delle comunità online criptate. Gli esperti avvertono che i software IA sempre più accessibili ora permettono agli utenti comuni di creare immagini sessuali finte realistiche usando solo poche foto pubbliche.
Le autorità sudcoreane hanno ripetutamente avvertito che gli adolescenti sono sempre più coinvolti sia come vittime che come autori di responsabilità. I dati della polizia citati da Reuters hanno mostrato che le indagini sui crimini sessuali deepfake sono passate da 156 casi nel 2021 a centinaia di casi annuali entro il 2024, con molti episodi collegati a scuole e comunità universitarie.
Gran parte della distribuzione dei contenuti si è riferita alle chatroom di Telegram, che sono diventate un punto di riferimento per gli investigatori sudcoreani. Le autorità hanno precedentemente avviato indagini sulle reti deepfake legate a Telegram dopo aver scoperto grandi gruppi che condividevano contenuti sessuali generati da IA rivolti a donne e ragazze coreane.
La questione ha suscitato un’ampia indignazione pubblica in tutta la Corea del Sud, dove i crimini sessuali digitali sono già stati un importante problema sociale e politico da anni a seguito di scandali come la famigerata rete di abusi “Nth Room”. I ricercatori affermano che l’aumento dello sfruttamento generato dall’IA ha ampliato drasticamente la portata e l’accessibilità degli abusi online.
Secondo un rapporto del settore del 2023 citato da Reuters, le donne sudcoreane rappresentano una quota sproporzionatamente grande delle vittime rappresentate nella pornografia deepfake a livello globale, inclusi cantanti K-pop, studenti, influencer e cittadini comuni.
I critici sostengono che gli strumenti di IA abbiano reso lo sfruttamento più facile, veloce e difficile da rilevare. Il software deepfake moderno può generare immagini sessuali realistiche e false in pochi minuti utilizzando hardware di livello consumer e modelli di machine learning disponibili al pubblico. I ricercatori hanno recentemente identificato decine di migliaia di varianti di modelli deepfake scaricabili che circolano online, molte progettate specificamente per creare contenuti espliciti e non consensuali rivolti alle donne.
La crisi crescente ha scatenato risposte legali sempre più aggressive in Corea del Sud. I legislatori hanno rafforzato la legislazione nel 2024 per criminalizzare non solo la creazione e la distribuzione di deepfake sessualmente sfruttatori, ma anche il possesso, la visione e la conservazione di tali materiali. I trasgressori possono rischiare pene detentive e multe sostanziose.
Le autorità hanno inoltre ampliato le operazioni di monitoraggio, avviato indagini speciali sui crimini informatici e fatto pressione sulle piattaforme online affinché rimuovano i contenuti illegali in modo più aggressivo. Tuttavia, gli esperti avvertono che l’applicazione delle regole rimane difficile perché i contenuti deepfake si diffondono rapidamente su canali criptati, forum anonimi e siti web esteri.
I ricercatori che studiano la violenza sessuale digitale in Corea del Sud sostengono che il problema va oltre la tecnologia stessa. Recenti analisi accademiche hanno descritto l’abuso del deepfake come parte di un modello più ampio di misoginia, molestie e sfruttamento online, amplificato da strumenti digitali sempre più sofisticati.
I sostenitori della privacy e i gruppi di supporto alle vittime avvertono che i danni psicologici causati dai crimini sessuali deepfake possono essere devastanti, soprattutto perché le vittime spesso faticano a rimuovere completamente le immagini manipolate una volta diffuse online. Anche quando falsi, i contenuti possono comunque causare danni alla reputazione, traumi, ricatti e molestie a lungo termine.
L’ultima indagine sottolinea come lo sfruttamento generato dall’IA stia diventando una delle forme di abuso abilitato da cyber in più rapida crescita al mondo, mentre i governi si affrettano ad adattare leggi e strategie di applicazione alla rapida evoluzione della tecnologia di IA generativa.