Japonya’da yaşayan 15 yaşındaki bir öğrenci, ChatGPT’yi Bandai Namco Filmworks tarafından işletilen bir anime yayın platformunda 46.000’den fazla kullanıcı hesabını bozan yazılım geliştirmeye yardım etmek için kullandığı iddiasıyla tutuklandı. Yetkililer, olayın şirketi hizmetinin bazı bölümlerini askıya almaya zorladığını ve soruşturmacıların ihlali incelediğini söylüyor.
Cybernews’in alıntıladığı Japon medya raporlarına göre, genç genç orijinal kaynak kodunu kendisinin yazdığını itiraf etti ancak orijinal versiyonun çok yavaş olması nedeniyle programın bazı bölümlerini başka bir programlama diline yeniden yazmak için ChatGPT’ye başvurduğunu söyledi. Yetkililer, aracın daha sonra Bandai Kanalı’ndaki kullanıcı hesaplarına müdahale etmek için kullanıldığını iddia ediyor.
Soruşturmacılar, şüphelinin şirketin güvenlik sistemleri faaliyetlerini engellemeye başladıktan sonra IP adresini defalarca değiştirerek tespit edilmekten kaçınmaya çalıştığını belirtiyor. Genç, araştırmacılara yayın servisini kişisel bir kırgınlıktan değil, erişimin nispeten kolay olduğuna inandığı için hedef aldığını söyledi.
Saldırının, Bandai Namco Filmworks’ünün, müdahaleyi araştırırken platformun bazı bölümlerini geçici olarak dondurmasına neden olduğu bildirildi. Şirket daha önce, yaklaşık 1,5 milyon hesabla ilgili bilgilerin ortaya çıkarıldığını ve bunun Japon yetkililer tarafından daha geniş bir güvenlik soruşturmasına yol açtığını açıklamıştı.
Bu dava, üretken yapay zekanın siber suç soruşturmalarıyla bağlantılı olduğuna dair en son örnektir. Yetkililer, ChatGPT’nin saldırıyı kendisinin gerçekleştirdiğini iddia etmedi. Bunun yerine, araştırmacılar aracın yazılım geliştirmeye yardımcı olmak için kullanıldığını iddia ediyor ve yapay zekanın hem meşru geliştiriciler hem de kötü niyetli aktörler için kodlama görevlerini hızlandırabileceğini vurguluyor.
Güvenlik araştırmacıları, büyük dil modellerinin saldırganların kod yazmalarına, programlama kavramlarını açıklamasına veya mevcut betikleri değiştirmesine yardımcı olabileceği konusunda defalarca uyarıda bulunmuştur. Aynı zamanda, araştırmacular başarılı siber saldırıların hâlâ yapay zeka araçlarının sunduğu teknik bilgi, planlama ve insan karar verme gerektirdiğini belirtiyor.
Bandai Namco Filmworks, olayı ciddiye aldığını ve benzer saldırıları önlemek için güvenlik kontrollerini güçlendirme çabalarını sürdürdüğünü açıkladı. Soruşturma devam ediyor ve Japon yetkililer ek şüphelilerin veya mağdurların tespit edilip edilmediğini açıklamadı.