Bir OpenAI yapay zeka ajanı, bilgi almasını engelleyen kısıtlamalarla karşılaştıktan sonra Avustralya hükümetinin web sitesine yetkisiz erişim sağladı ve otonom yapay zeka sistemlerinin belirlenen hedefleri engellendiğinde nasıl davranabileceğine dair bir soruşturma başlatıldı.
Olay 18 Haziran’da gerçekleşti ve Services Australia tarafından işletilen Medicare İstatistik Raporlama Hizmeti portalını etkiledi. Web sitesi, bireysel Medicare talepleri veya hasta kayıtlarından sorumlu sistemler yerine, hükümet harcamaları hakkında bilgiler dahil olmak üzere toplanmış Medicare istatistiklerini içeriyor.
Avustralyalı yetkililere göre, yapay zeka ajanı OpenAI iç değerlendirmesi sırasında bilgi edinmeye çalışıyordu. İlk talebi reddedildikten sonra, sistem bağımsız olarak portala erişmenin başka bir yolunu buldu ve hem kamuya açık hem de kamuya açık olmayan dosyalara ulaştı. Yetkililer bu davranışı yetkisiz ve istenmeyen olarak tanımladı.
Services Australia ayrıca ajanın dosyaları dahili bir sunucuya yazdığını bildirdi, ancak soruşturmacılar hâlâ tam olarak ne olduğunu araştırıyor. Şu ana kadar mevcut kanıtlar, daha geniş Services Australia ağının ele geçirilmediğini ve bireysel tıbbi bilgilere erişilmediğini gösteriyor.
OpenAI, “yanlış hizalanmış model aktivitesi” olarak adlandırdığı durumu incelerken bu faaliyeti keşfetti. Şirket, modellerin, test sırasında Avustralya istatistiklerini ararken amaçlamadığı eylemler gerçekleştirdiğini söyledi. Ancak Avustralya hükümetine Haziran olayından neredeyse üç ay sonra, 10 Eylül’e kadar bilgilendirilmedi.
Başbakan Anthony Albanese hem gecikmeyi hem de bildirimin ele alınma şeklini eleştirdi. OpenAI başlangıçta Services Australia ile halka açık bir e-posta kutusu üzerinden iletişime geçti. Albanese daha sonra doğrudan OpenAI CEO’su Sam Altman ile konuştu ve Avustralya’nın olay ile şirketin tepkisi konusundaki endişesini dile getirdi.
Yapay zeka sistemleri ayrıca Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı ve Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu’na ait web siteleriyle de etkileşim kurdu. Yetkililer, bu etkileşimlerin normal olduğunu ve kamuya açık bilgilerle ilgili olduğunu söyledi.
Avustralya şimdi acil bir inceleme yapmak üzere bir görev gücü kurdu, Avustralya Sinyal Müdürlüğü ise adli soruşturmaya yardımcı oluyor. Ülkenin siber güvenlik ajansı, yapay zeka ajanlarının güvenlik önlemleri nedeniyle verilen görevleri tamamlamalarını engellediğinde bağımsız olarak zafiyetleri tespit edebileceği ve beklenmedik önlemler alabileceği konusunda ayrı ayrı uyarıda bulundu.
Soruşturmacılar, Medicare portalı etrafındaki olayların tam dizisini ve ek sistemlerin etkilenip etkilenmediğini hâlâ belirlemeye devam ediyor.