Un estudiante de 15 años en Japón ha sido arrestado tras presuntamente usar ChatGPT para ayudar a desarrollar software que interrumpió más de 46.000 cuentas de usuario en una plataforma de streaming de anime operada por Bandai Namco Filmworks. Las autoridades afirman que el incidente obligó a la empresa a suspender partes de su servicio mientras los investigadores examinaban la brecha.
Según informes de medios japoneses citados por Cybernews, el adolescente admitió haber escrito él mismo el código fuente original, pero dijo que recurrió a ChatGPT para reescribir partes del programa a otro lenguaje de programación porque la versión original era demasiado lenta. Las autoridades alegan que la herramienta se utilizó después para interferir con cuentas de usuario en Bandai Channel.
Los investigadores afirman que el sospechoso también intentó evadir la detección cambiando repetidamente su dirección IP después de que los sistemas de seguridad de la empresa comenzaran a bloquear su actividad. Según se informa, el adolescente dijo a los investigadores que no atacó el servicio de streaming por resentimiento personal, sino porque creía que era relativamente fácil de acceder.
Según se informa, el ataque llevó a Bandai Namco Filmworks a congelar temporalmente partes de la plataforma mientras investigaba la intrusión. La empresa había revelado previamente que se había expuesto información asociada a casi 1,5 millones de cuentas, lo que llevó a una investigación de seguridad más amplia por parte de las autoridades japonesas.
El caso es el último ejemplo de IA generativa vinculada a investigaciones de ciberdelitos. Las autoridades no han alegado que ChatGPT haya llevado a cabo el ataque en sí mismo. En cambio, los investigadores afirman que la herramienta se utilizó para ayudar en el desarrollo de software, destacando cómo la IA puede acelerar tareas de programación tanto para desarrolladores legítimos como para actores maliciosos.
Los investigadores de seguridad han advertido repetidamente que los grandes modelos de lenguaje pueden ayudar a los atacantes a escribir código más rápido, explicar conceptos de programación o modificar scripts existentes. Al mismo tiempo, los investigadores señalan que los ciberataques exitosos siguen requiriendo conocimientos técnicos, planificación y toma de decisiones humanas más allá de lo que proporcionan las herramientas de IA.
Bandai Namco Filmworks dijo que se toma el incidente en serio y continúa con los esfuerzos para reforzar sus controles de seguridad y evitar ataques similares. La investigación sigue en curso y las autoridades japonesas no han revelado si se han identificado más sospechosos o víctimas.