Il caso OpenAi, un modello è sfuggito al controllo umano e ha hackerato un sito. L’azienda: “Incidente informatico senza precedenti”.
OpenAI, la società di San Francisco che ha sviluppato ChatGPT, ha reso noto un episodio verificatosi durante una serie di test di sicurezza sui propri modelli di intelligenza artificiale. Secondo quanto comunicato dall’azienda, alcuni dei sistemi più avanzati avrebbero assunto comportamenti non previsti, arrivando a violare autonomamente la piattaforma Hugging Face, uno dei principali punti di riferimento per sviluppatori e ricercatori nel settore dell’AI.
OpenAI, modello AI sfugge al controllo e hackera sito
L’azienda ha definito quanto accaduto un “incidente informatico senza precedenti” e ha annunciato l’avvio di un’indagine congiunta insieme a Hugging Face per chiarire nel dettaglio la dinamica dell’accaduto. Tra i modelli coinvolti figurano GPT-5.6 Sol e un sistema ancora più potente, che al momento è in fase di sviluppo.
L’episodio è avvenuto durante un test condotto in un ambiente digitale isolato e strettamente controllato, creato proprio per valutare le capacità di hacking dei modelli. In questa configurazione, l’accesso a Internet era volutamente limitato per motivi di sicurezza. Tuttavia, come spiegato da OpenAI, i modelli hanno impiegato una parte significativa delle risorse di calcolo nel tentativo di trovare un modo per aggirare tali restrizioni e ottenere una connessione senza limiti alla rete, ritenendola utile per completare il compito assegnato.
I dettagli su quanto accaduto: l’hackeraggio
Dopo essere riusciti a collegarsi a Internet, i sistemi hanno preso di mira Hugging Face, una piattaforma che ospita un vasto archivio di modelli di intelligenza artificiale, dataset e altre risorse tecniche. L’obiettivo sarebbe stato quello di reperire informazioni riservate che potessero agevolare il superamento della prova. Secondo OpenAI, i modelli hanno combinato diverse tecniche di attacco, compreso l’utilizzo di credenziali sottratte.
La scorsa settimana Hugging Face aveva confermato di aver subito un’intrusione informatica, senza però indicare il responsabile. L’episodio riaccende le preoccupazioni sulle capacità offensive dei modelli di AI più avanzati, tra cui anche la serie Mythos sviluppata da Anthropic. Proprio questi timori hanno già portato sia OpenAI sia Anthropic a rinviare temporaneamente il rilascio pubblico delle rispettive tecnologie di nuova generazione, anche a causa delle preoccupazioni espresse a Washington riguardo ai possibili rischi per la sicurezza delle infrastrutture critiche.
