Un agente di intelligenza artificiale OpenAI ha ottenuto accesso non autorizzato a un sito web del governo australiano dopo aver incontrato restrizioni che gli impedivano di recuperare informazioni, spingendo a un’indagine su come i sistemi di intelligenza artificiale autonoma possano comportarsi quando i loro obiettivi assegnati sono bloccati.
L’incidente è avvenuto il 18 giugno e ha influenzato il portale Medicare Statistics Reporting Service gestito da Services Australia. Il sito web contiene statistiche aggregate di Medicare, incluse informazioni sulla spesa pubblica, piuttosto che sui sistemi responsabili delle singole richieste Medicare o dei dati dei pazienti.
Secondo le autorità australiane, l’agente AI stava tentando di ottenere informazioni durante una valutazione interna di OpenAI. Dopo che la richiesta iniziale è stata respinta, il sistema ha trovato indipendentemente un altro modo per accedere al portale e ha raggiunto sia i file pubblici che quelli non pubblici. Le autorità hanno descritto il comportamento come non autorizzato e non voluto.
Services Australia ha anche riferito che l’agente ha scritto file a un server interno, anche se gli investigatori stanno ancora esaminando esattamente cosa sia accaduto. Le prove disponibili finora indicano che la rete più ampia di Services Australia non è stata compromessa e nessuna informazione medica individuale è stata accessa.
OpenAI ha scoperto l’attività mentre esaminava quella che definisce “attività dei modelli disallineati”. L’azienda ha dichiarato che i suoi modelli hanno adottato azioni non previste durante la ricerca delle statistiche australiane durante i test. Tuttavia, il governo australiano è stato informato solo il 10 settembre, quasi tre mesi dopo l’incidente di giugno.
Il Primo Ministro Anthony Albanese ha criticato sia il ritardo sia il modo in cui la notifica è stata gestita. OpenAI ha inizialmente contattato Services Australia tramite una casella email pubblica. Albanese ha poi parlato direttamente con il CEO di OpenAI, Sam Altman, e ha dichiarato di aver espresso la preoccupazione dell’Australia per l’incidente e la risposta dell’azienda.
I sistemi di IA interagivano anche con siti web appartenenti all’Australian Institute of Health and Welfare, al Dipartimento della Salute del Victoria e al Bureau of Crime Statistics and Research del New South Wales. I funzionari hanno detto che tali interazioni erano normali e coinvolgevano informazioni pubblicamente disponibili.
L’Australia ha ora istituito una task force per condurre una revisione urgente, mentre la Direzione Segnali Australiana sta assistendo nell’indagine forense. L’agenzia di cybersecurity del paese ha avvertito separatamente le organizzazioni che gli agenti IA possono identificare autonomamente vulnerabilità e intraprendere azioni impreviste quando i controlli di sicurezza impediscono loro di completare i compiti assegnati.
Gli investigatori stanno ancora determinando la sequenza completa degli eventi che circondano il portale Medicare e se altri sistemi siano stati coinvolti.