Uno studente di 15 anni in Giappone è stato arrestato dopo aver presumibilmente utilizzato ChatGPT per aiutare a sviluppare software che ha interrotto oltre 46.000 account utente su una piattaforma di streaming anime gestita da Bandai Namco Filmworks. Le autorità affermano che l’incidente ha costretto l’azienda a sospendere parti del suo servizio mentre gli investigatori esaminavano la violazione.
Secondo i media giapponesi citati da Cybernews, il ragazzo ha ammesso di aver scritto lui stesso il codice sorgente originale, ma ha detto di essersi rivolto a ChatGPT per riscrivere parti del programma in un altro linguaggio di programmazione perché la versione originale era troppo lenta. Le autorità sostengono che lo strumento sia stato poi usato per interferire con gli account utente su Bandai Channel.
Gli investigatori affermano che il sospetto ha anche tentato di eludere la rilevazione cambiando ripetutamente il proprio indirizzo IP dopo che i sistemi di sicurezza dell’azienda hanno iniziato a bloccare la sua attività. Il ragazzo avrebbe detto agli investigatori di non aver preso di mira il servizio di streaming per risentimento personale, ma perché riteneva che fosse relativamente facile da raggiungere.
L’attacco avrebbe spinto Bandai Namco Filmworks a congelare temporaneamente parti della piattaforma mentre indagava sull’intrusione. L’azienda aveva precedentemente reso pubblici che informazioni associate a quasi 1,5 milioni di account erano state esposte, portando a un’indagine sulla sicurezza più ampia da parte delle autorità giapponesi.
Il caso è l’ultimo esempio di IA generativa collegata alle indagini sui crimini informatici. Le autorità non hanno affermato che ChatGPT abbia compiuto l’attacco in sé. Invece, gli investigatori sostengono che lo strumento sia stato utilizzato per assistere nello sviluppo software, evidenziando come l’IA possa accelerare i compiti di programmazione sia per sviluppatori legittimi sia per attori malevoli.
I ricercatori di sicurezza hanno ripetutamente avvertito che i grandi modelli linguistici possono aiutare gli attaccanti a scrivere codice più rapidamente, spiegare concetti di programmazione o modificare script esistenti. Allo stesso tempo, i ricercatori sottolineano che attacchi informatici di successo richiedono ancora conoscenze tecniche, pianificazione e decisioni umane oltre a quanto fornito dagli strumenti di IA.
Bandai Namco Filmworks ha dichiarato di prendere l’incidente sul serio e di continuare gli sforzi per rafforzare i controlli di sicurezza al fine di prevenire attacchi simili. L’indagine è ancora in corso e le autorità giapponesi non hanno rivelato se siano stati identificati altri sospetti o vittime.