Un étudiant de 15 ans au Japon a été arrêté après avoir prétendument utilisé ChatGPT pour aider à développer un logiciel qui a perturbé plus de 46 000 comptes utilisateurs sur une plateforme de streaming d’anime exploitée par Bandai Namco Filmworks. Les autorités affirment que l’incident a contraint l’entreprise à suspendre une partie de son service pendant que les enquêteurs examinaient la violation.
Selon des médias japonais cités par Cybernews, l’adolescent a admis avoir écrit lui-même le code source original mais a déclaré s’être tourné vers ChatGPT pour réécrire des parties du programme dans un autre langage de programmation car la version originale était trop lente. Les autorités allèguent que l’outil a ensuite été utilisé pour interférer avec les comptes utilisateurs sur Bandai Channel.
Les enquêteurs affirment que le suspect a également tenté d’échapper à la détection en changeant à plusieurs reprises son adresse IP après que les systèmes de sécurité de l’entreprise ont commencé à bloquer son activité. L’adolescent aurait déclaré aux enquêteurs qu’il n’avait pas ciblé le service de streaming par ressentiment personnel, mais parce qu’il pensait qu’il était relativement facile d’accès.
L’attaque aurait poussé Bandai Namco Filmworks à geler temporairement certaines parties de la plateforme pendant qu’elle enquêtait sur l’intrusion. L’entreprise avait précédemment révélé que des informations liées à près de 1,5 million de comptes avaient été révélées, ce qui a conduit à une enquête de sécurité plus large menée par les autorités japonaises.
Cette affaire est le dernier exemple en date d’IA générative liée à des enquêtes sur la cybercriminalité. Les autorités n’ont pas allégué que ChatGPT ait lui-même commis l’attaque. Au lieu de cela, les enquêteurs affirment que l’outil a été utilisé pour aider au développement logiciel, mettant en lumière comment l’IA peut accélérer les tâches de codage pour les développeurs légitimes et les acteurs malveillants.
Les chercheurs en sécurité ont maintes fois averti que les grands modèles de langage peuvent aider les attaquants à écrire du code plus rapidement, à expliquer des concepts de programmation ou à modifier des scripts existants. Parallèlement, les chercheurs notent que les cyberattaques réussies nécessitent encore des connaissances techniques, de la planification et une prise de décision humaine au-delà de ce que fournissent les outils d’IA.
Bandai Namco Filmworks a déclaré prendre l’incident au sérieux et poursuivre ses efforts pour renforcer ses contrôles de sécurité afin d’éviter des attaques similaires. L’enquête est toujours en cours, et les autorités japonaises n’ont pas communiqué si d’autres suspects ou victimes ont été identifiés.