Ein 15-jähriger Student in Japan wurde festgenommen, nachdem er angeblich ChatGPT genutzt hat, um Software zu entwickeln, die mehr als 46.000 Nutzerkonten auf einer von Bandai Namco Filmworks betriebenen Anime-Streaming-Plattform störte. Behörden sagen, der Vorfall habe das Unternehmen gezwungen, Teile seines Dienstes einzustellen, während die Ermittler den Datenverstoß untersuchten.
Laut japanischen Medienberichten, die von Cybernews zitiert wurden, gab der Jugendliche zu, den ursprünglichen Quellcode selbst geschrieben zu haben, sagte aber, er habe ChatGPT genutzt, um Teile des Programms in eine andere Programmiersprache umzuschreiben, weil die Originalversion zu langsam war. Behörden behaupten, das Tool sei dann genutzt worden, um Nutzerkonten auf dem Bandai Channel zu stören.
Ermittler sagen, der Verdächtige habe auch versucht, der Entdeckung zu entgehen, indem er seine IP-Adresse wiederholt änderte, nachdem die Sicherheitssysteme des Unternehmens begonnen hatten, seine Aktivitäten zu blockieren. Der Jugendliche soll den Ermittlern gesagt haben, er habe den Streaming-Dienst nicht aus persönlichem Groll ins Visier genommen, sondern weil er glaubte, dass er relativ leicht zugänglich sei.
Der Angriff soll Bandai Namco Filmworks dazu veranlasst haben, Teile der Plattform während der Untersuchung des Einbruchs vorübergehend einzufrieren. Das Unternehmen hatte zuvor offengelegt, dass Informationen zu fast 1,5 Millionen Konten offengelegt wurden, was zu einer umfassenderen Sicherheitsuntersuchung durch die japanischen Behörden führte.
Der Fall ist das jüngste Beispiel dafür, wie generative KI mit Cyberkriminalitätsermittlungen in Verbindung gebracht wird. Die Behörden haben nicht behauptet, dass ChatGPT den Angriff selbst durchgeführt habe. Stattdessen behaupten die Ermittler, dass das Tool zur Unterstützung der Softwareentwicklung eingesetzt wurde, was aufzeigt, wie KI Programmieraufgaben sowohl für legitime Entwickler als auch für böswillige Akteure beschleunigen kann.
Sicherheitsforscher haben wiederholt gewarnt, dass große Sprachmodelle Angreifern helfen können, schneller Code zu schreiben, Programmierkonzepte zu erklären oder bestehende Skripte zu modifizieren. Gleichzeitig stellen Forscher fest, dass erfolgreiche Cyberangriffe weiterhin technisches Wissen, Planung und menschliche Entscheidungsfindung erfordern, die über das hinausgehen, was KI-Tools bieten.
Bandai Namco Filmworks teilte mit, dass es den Vorfall ernst nimmt und weiterhin seine Sicherheitskontrollen verschärft, um ähnliche Angriffe zu verhindern. Die Ermittlungen laufen weiterhin, und die japanischen Behörden haben nicht bekannt gegeben, ob weitere Verdächtige oder Opfer identifiziert wurden.