Um estudante de 15 anos no Japão foi preso após supostamente usar o ChatGPT para ajudar a desenvolver um software que interrompeu mais de 46.000 contas de usuários em uma plataforma de streaming de anime operada pela Bandai Namco Filmworks. As autoridades dizem que o incidente forçou a empresa a suspender partes de seu serviço enquanto os investigadores examinavam a violação.
Segundo reportagens da mídia japonesa citadas pela Cybernews, o adolescente admitiu ter escrito o código-fonte original, mas disse que recorreu ao ChatGPT para reescrever partes do programa em outra linguagem de programação porque a versão original era lenta demais. As autoridades alegam que a ferramenta foi usada para interferir em contas de usuários no canal Bandai.
Os investigadores dizem que o suspeito também tentou escapar da detecção mudando repetidamente seu endereço IP depois que os sistemas de segurança da empresa começaram a bloquear sua atividade. O adolescente teria dito aos investigadores que não mirou no serviço de streaming por ressentimento pessoal, mas porque acreditava que era relativamente fácil de acessar.
O ataque teria levado a Bandai Namco Filmworks a congelar temporariamente partes da plataforma enquanto investigava a invasão. A empresa já divulgou anteriormente que informações associadas a quase 1,5 milhão de contas haviam sido expostas, levando a uma investigação de segurança mais ampla por parte das autoridades japonesas.
O caso é o exemplo mais recente de IA generativa ligada a investigações de crimes cibernéticos. As autoridades não alegaram que o próprio ChatGPT realizou o ataque. Em vez disso, os investigadores afirmam que a ferramenta foi usada para auxiliar no desenvolvimento de software, destacando como a IA pode acelerar tarefas de codificação tanto para desenvolvedores legítimos quanto para atores maliciosos.
Pesquisadores de segurança alertaram repetidamente que grandes modelos de linguagem podem ajudar atacantes a escrever código mais rapidamente, explicar conceitos de programação ou modificar scripts existentes. Ao mesmo tempo, pesquisadores observam que ataques cibernéticos bem-sucedidos ainda exigem conhecimento técnico, planejamento e tomada de decisão humana além do que as ferramentas de IA oferecem.
A Bandai Namco Filmworks disse que leva o incidente a sério e continua esforços para fortalecer seus controles de segurança e evitar ataques semelhantes. A investigação continua em andamento, e as autoridades japonesas não divulgaram se suspeitos ou vítimas adicionais foram identificados.