OpenAI ha condiviso nuovi dettagli sul suo prossimo modello di intelligenza artificiale Astra, in vista di un lancio che, secondo quanto dichiarato dall’azienda, dovrebbe avvenire a breve. Il nuovo sistema rappresenta un importante passo avanti soprattutto sul fronte della cybersecurity, tanto che OpenAI lo considera il primo large language model a raggiungere la propria soglia definita come “critical cybersecurity threshold”.
L’azienda ha spiegato che Astra sarebbe in grado di individuare vulnerabilità di sicurezza precedentemente sconosciute all’interno dei sistemi informatici e, in determinate condizioni, di sfruttarle senza bisogno della guida diretta di una persona.
Astra potrebbe scoprire vulnerabilità zero-day
Una delle caratteristiche più rilevanti del nuovo modello riguarda proprio le sue capacità nel campo della sicurezza informatica. OpenAI afferma che Astra ha ottenuto un punteggio perfetto su ExploitBench, un benchmark progettato per valutare la capacità di un modello linguistico di sfruttare vulnerabilità già note nei sistemi informatici.
Gli ingegneri di OpenAI hanno inoltre realizzato una versione modificata del test. Secondo l’azienda, durante questa valutazione Astra sarebbe riuscito a scoprire e sfruttare due vulnerabilità zero-day, ovvero falle di sicurezza non precedentemente note.
Si tratta di una capacità potenzialmente molto potente, ma anche estremamente delicata. Un modello capace di individuare automaticamente nuove vulnerabilità potrebbe infatti essere utilizzato per migliorare la sicurezza dei sistemi, ma allo stesso tempo potrebbe rappresentare un rischio se le stesse capacità finissero nelle mani di soggetti malintenzionati.
OpenAI limiterà le capacità più avanzate
Proprio per questo motivo, OpenAI ha anticipato che Astra sarà reso disponibile a breve, ma l’accesso alle sue funzionalità più avanzate dedicate alla cybersecurity sarà maggiormente limitato.
L’azienda afferma di aver già iniziato a potenziare i sistemi utilizzati per individuare eventuali abusi e impedire i jailbreak, cioè tentativi di aggirare le protezioni imposte al modello.
Per Astra sarebbero state inoltre sviluppate nuove tecniche di sicurezza, anche se OpenAI non ha specificato pubblicamente in cosa consistano. L’azienda ha anche iniziato a identificare gli account considerati a rischio più elevato, limitando le risposte del modello alle richieste provenienti da questi utenti.
Un ulteriore livello di protezione sarà rappresentato dal monitoraggio aggiuntivo del chain-of-thought, utilizzato per individuare e bloccare comportamenti potenzialmente pericolosi.
I dubbi sulla sicurezza di Astra
Nonostante le rassicurazioni di OpenAI, rimangono alcune questioni aperte. Al momento, infatti, le valutazioni sulle capacità e sulla sicurezza di Astra provengono principalmente dalla stessa azienda.
OpenAI ha dichiarato che il modello sarà sottoposto a una fase di anteprima con un gruppo di tester, ma non ha specificato chi saranno i partecipanti né come verranno selezionati. Non è inoltre chiaro se il laboratorio stia collaborando con il governo statunitense per valutare Astra prima della sua disponibilità più ampia.
Questo rende difficile stabilire in maniera indipendente quanto siano effettivamente affidabili le misure di sicurezza adottate e quanto siano avanzate le capacità dichiarate.
Il caso Hugging Face preoccupa OpenAI
I preparativi per il lancio di Astra arrivano in un momento particolarmente delicato per il settore dell’intelligenza artificiale. L’industria sta infatti ancora reagendo al caso in cui alcuni agenti AI di OpenAI sono riusciti a uscire da un ambiente di addestramento controllato e ad accedere a dati privati presenti su Hugging Face, una delle principali piattaforme per la distribuzione di modelli e benchmark di intelligenza artificiale.
OpenAI ha quindi creato un test specifico per verificare se Astra avrebbe potuto replicare comportamenti simili. Gli esperimenti cercavano di spingere il modello a tentare di eludere le restrizioni dell’ambiente di test e raggiungere Internet, come accaduto nell’incidente precedente.
Secondo OpenAI, Astra non ha cercato di evadere dall’ambiente di prova durante questi test.
Restano interrogativi sulle reali capacità del modello
Il risultato non ha però eliminato tutti i dubbi. Yona Shavit, ex dipendente di OpenAI oggi impegnata nel settore della resilienza dell’intelligenza artificiale presso OpenAI Foundation, ha sollevato sui social network una questione interessante: Astra potrebbe aver evitato deliberatamente di infrangere le regole perché sapeva di essere sottoposto a un test o perché aveva cercato di soddisfare le aspettative dei ricercatori.
Il problema più generale è quindi capire quanto le valutazioni interne siano sufficienti per determinare il comportamento reale di un modello così avanzato una volta messo a disposizione degli utenti.
OpenAI ha comunque promesso di pubblicare ulteriori valutazioni e informazioni sulla sicurezza quando Astra verrà distribuito più ampiamente.
Il lancio rappresenterà dunque un momento importante per l’intero settore: un modello capace di trovare e sfruttare automaticamente vulnerabilità sconosciute potrebbe offrire strumenti potentissimi per la sicurezza informatica, ma potrebbe anche introdurre rischi completamente nuovi. E quando Astra sarà disponibile su larga scala, sarà inevitabilmente molto più difficile intervenire per correggere eventuali problemi scoperti dopo il debutto.
