La polizia giapponese ha arrestato un uomo di 31 anni con l’accusa di aver creato e venduto immagini sessualmente esplicite di celebrità femminili utilizzando la tecnologia di intelligenza artificiale generativa. L’arresto è stato effettuato dal Dipartimento di Polizia Metropolitana di Tokyo, che ha dichiarato che il sospetto ha caricato contenuti deepfake su siti a pagamento con abbonamenti e utilizzato strumenti di intelligenza artificiale pubblicamente disponibili per produrre il materiale.
Secondo fonti investigative, il sospetto, identificato come Tatsuro Chiba di Sapporo nella prefettura di Hokkaido, ha ammesso le accuse durante l’interrogatorio. La polizia ritiene che abbia pubblicato almeno 2.200 immagini deepfake esplicite su siti in abbonamento tra dicembre 2024 e maggio 2025 e abbia guadagnato circa 11 milioni di yen (circa 70.000 dollari USA) grazie all’attività. Le autorità hanno trovato circa 520.000 immagini deepfake conservate sul suo computer, molte delle quali rappresentavano immagini romanzate di attrici e idoli pop.
La polizia sostiene che il sospetto abbia utilizzato software di intelligenza artificiale generativa per addestrare modelli su immagini di circa 300 figure pubbliche femminili, tra cui attrici e intrattenitori, permettendo così la produzione di immagini esplicite. Gli investigatori hanno dichiarato che il sospetto ha promosso i contenuti tramite i social media per attirare iscritti paganti e ha offerto richieste di immagini personalizzate a tariffe più elevate. I deepfake venivano ospitati su piattaforme a abbonamento dove gli utenti potevano accedere al materiale tramite abbonamenti a pagamento.
Il caso mette in luce le nuove sfide legali e di controllo in Giappone riguardanti l’uso improprio dell’IA generativa. La legge giapponese attuale non criminalizza esplicitamente la semplice creazione di deepfake generati dall’IA, ma la distribuzione di materiale osceno e lo sfruttamento commerciale possono essere perseguiti in base all’oscenità e altre normative. Le autorità riferiscono che questo caso rappresenta un’azione di applicazione significativa contro la produzione e la condivisione commerciale di contenuti deepfake sessualmente espliciti.
Le indagini della polizia sono iniziate dopo che le segnalazioni online sui contenuti deepfake hanno attirato l’attenzione, spingendo a un’indagine sulle attività del sospetto e sui siti web di iscrizione coinvolti. L’arresto è stato effettuato con l’accusa di distribuzione di immagini oscene in violazione della legge giapponese, anche se le accuse e le potenziali pene non sono state formalmente dettagliate pubblicamente dai pubblici ministeri. Le autorità affermano che l’indagine è ancora attiva mentre analizzano l’entità della produzione e distribuzione del deepfake.
Gli esperti hanno osservato che gli strumenti di IA generativa hanno ridotto le barriere tecniche alla creazione di immagini sintetiche realistiche, suscitando preoccupazione tra studiosi del diritto, forze dell’ordine e sostenitori della società civile. Il quadro giuridico giapponese è oggetto di scrutinio mentre funzionari e responsabili politici valutano se siano necessari aggiornamenti o nuove leggi per affrontare i danni causati da immagini deepfake non consensuali e dallo sfruttamento commerciale delle tecnologie di intelligenza artificiale.
L’azione del Dipartimento di Polizia Metropolitana di Tokyo fa parte di sforzi più ampi per contrastare i reati online che coinvolgono l’uso improprio dell’IA e la distribuzione di contenuti digitali osceni. Casi simili sono emersi a livello globale mentre le autorità cercano di bilanciare la regolamentazione delle tecnologie digitali con l’applicazione delle leggi esistenti sull’oscenità e sulla distribuzione.