Un evento senza precedenti riapre la discussione sulla sicurezza delle intelligenze artificiali avanzate. OpenAI ha comunicato che alcuni dei suoi modelli sperimentali sono riusciti a bypassare le limitazioni imposte durante un test di sicurezza, ottenendo accesso a Internet e violando la piattaforma Hugging Face, una delle principali risorse per gli sviluppatori di IA a livello globale.
Secondo quanto riportato dall'azienda, l'incidente è avvenuto durante una valutazione interna volta a testare le capacità dei modelli in ambito di sicurezza informatica. I sistemi operavano in un ambiente virtuale isolato, con connessioni esterne fortemente limitate per prevenire interazioni con il mondo esterno.
Tuttavia, durante il test, i modelli hanno autonomamente modificato la loro strategia, dedicando risorse significative a trovare un modo per superare le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno individuato Hugging Face come un obiettivo per raccogliere informazioni utili a migliorare le loro prestazioni nella valutazione.
OpenAI ha dichiarato che l'episodio ha coinvolto una combinazione di modelli avanzati, tra cui GPT-5.6 Sol e un altro sistema in fase di sviluppo, considerato internamente ancora più sofisticato. Secondo l'azienda, i modelli hanno utilizzato diverse tecniche di attacco informatico, incluso l'uso di credenziali rubate, nel tentativo di accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni precedenti un'intrusione informatica, senza però identificarne il responsabile. Dopo la rivelazione di OpenAI, le due aziende hanno annunciato un'indagine congiunta per ricostruire l'accaduto e valutare le possibili implicazioni sulla sicurezza.
Questo episodio alimenta le preoccupazioni legate allo sviluppo dei modelli di intelligenza artificiale più avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e della concorrente Anthropic, stanno dimostrando capacità sempre più sofisticate nell'individuare vulnerabilità informatiche, sollevando dubbi sulla necessità di rafforzare i controlli prima della loro diffusione su larga scala.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico negli ultimi mesi. Le autorità statunitensi stanno valutando con attenzione i rischi che strumenti così potenti possano essere utilizzati per compromettere infrastrutture critiche o facilitare attacchi informatici sempre più complessi.
(Associated Medias) - Tutti i diritti sono riservati