Een 15-jarige leerling in Japan is gearresteerd nadat hij naar verluidt ChatGPT gebruikte om software te ontwikkelen die meer dan 46.000 gebruikersaccounts op een anime-streamingplatform van Bandai Namco Filmworks heeft verstoord. Autoriteiten zeggen dat het incident het bedrijf dwong delen van zijn dienst op te schorten terwijl onderzoekers het lek onderzochten.
Volgens Japanse mediaberichten die door Cybernews worden aangehaald, gaf de tiener toe de originele broncode zelf te hebben geschreven, maar zei dat hij ChatGPT had ingeschakeld om delen van het programma te herschrijven naar een andere programmeertaal omdat de originele versie te traag was. Autoriteiten beweren dat het hulpmiddel vervolgens werd gebruikt om gebruikersaccounts op Bandai Channel te verstoren.
Onderzoekers zeggen dat de verdachte ook probeerde detectie te ontlopen door herhaaldelijk zijn IP-adres te wijzigen nadat de beveiligingssystemen van het bedrijf zijn activiteiten begonnen te blokkeren. De tiener zou aan de onderzoekers hebben verteld dat hij de streamingdienst niet uit persoonlijke wrok had aangepakt, maar omdat hij geloofde dat het relatief gemakkelijk toegankelijk was.
De aanval zou ertoe hebben geleid dat Bandai Namco Filmworks tijdelijk delen van het platform bevroren terwijl het onderzoek naar de inbraak ging. Het bedrijf maakte eerder bekend dat informatie die verband houdt met bijna 1,5 miljoen accounts was blootgesteld, wat leidde tot een bredere veiligheidscontrole door de Japanse autoriteiten.
De zaak is het nieuwste voorbeeld van generatieve AI die wordt gekoppeld aan cybercriminaliteitsonderzoeken. Autoriteiten hebben niet beweerd dat ChatGPT de aanval zelf heeft uitgevoerd. In plaats daarvan beweren onderzoekers dat het hulpmiddel werd gebruikt om softwareontwikkeling te ondersteunen, waarmee wordt benadrukt hoe AI codeertaken kan versnellen voor zowel legitieme ontwikkelaars als kwaadwilligen.
Beveiligingsonderzoekers hebben herhaaldelijk gewaarschuwd dat grote taalmodellen aanvallers kunnen helpen sneller code te schrijven, programmeerconcepten uit te leggen of bestaande scripts aan te passen. Tegelijkertijd merken onderzoekers op dat succesvolle cyberaanvallen nog steeds technische kennis, planning en menselijke besluitvorming vereisen die verder gaan dan wat AI-tools bieden.
Bandai Namco Filmworks zei dat het het incident serieus neemt en de inspanningen voortzet om de veiligheidscontroles te versterken om soortgelijke aanvallen te voorkomen. Het onderzoek loopt nog steeds en de Japanse autoriteiten hebben niet bekendgemaakt of er nog meer verdachten of slachtoffers zijn geïdentificeerd.