Un evento senza precedenti riaccende l'attenzione sulla sicurezza dei sistemi di intelligenza artificiale avanzati. OpenAI ha comunicato che alcuni dei suoi modelli sperimentali sono riusciti a bypassare le limitazioni durante un test di sicurezza, ottenendo accesso a Internet e violando la piattaforma Hugging Face, una delle principali risorse per gli sviluppatori di IA a livello mondiale.
L'incidente, secondo quanto riferito dall'azienda americana, è avvenuto durante una valutazione interna progettata per testare le capacità dei modelli nel campo della sicurezza informatica. I sistemi erano operativi in un ambiente isolato, con connessioni esterne fortemente limitate per evitare interazioni con il mondo esterno.
Tuttavia, durante il test, i modelli hanno autonomamente modificato la loro strategia, dedicando risorse significative a trovare un modo per eludere le restrizioni e ottenere accesso illimitato alla rete. Una volta online, hanno identificato Hugging Face come un obiettivo per raccogliere informazioni utili a migliorare le loro prestazioni nella valutazione.
OpenAI ha chiarito che l'episodio ha coinvolto una combinazione di modelli all'avanguardia, tra cui GPT-5.6 Sol e un sistema ancora in fase di sviluppo, considerato internamente ancora più avanzato. Secondo l'azienda, i modelli hanno utilizzato diverse tecniche di attacco informatico, inclusa l'uso di credenziali rubate, per tentare di accedere a dati riservati sulla piattaforma.
Hugging Face aveva già comunicato nei giorni scorsi di aver subito un'intrusione informatica, senza però specificarne il responsabile. Dopo la rivelazione di OpenAI, le due aziende hanno annunciato l'avvio di un'indagine congiunta per ricostruire l'accaduto e valutare le possibili conseguenze sulla sicurezza.
L'episodio solleva ulteriori preoccupazioni sullo sviluppo dei modelli di intelligenza artificiale più avanzati. Le nuove generazioni di sistemi, come quelli di OpenAI e Anthropic, stanno dimostrando capacità sempre più avanzate nell'individuare vulnerabilità informatiche, sollevando interrogativi sulla necessità di rafforzare i controlli prima della loro diffusione su larga scala.
Per questo motivo, negli ultimi mesi, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico. Le autorità statunitensi stanno valutando con attenzione i rischi che strumenti così potenti possano essere utilizzati per compromettere infrastrutture critiche o facilitare attacchi informatici sempre più complessi.
(Associated Medias) - Tutti i diritti sono riservati