OpenAI presenta Astra, modello che secondo l'azienda trova e sfrutta falle informatiche

OpenAI afferma che Astra può scoprire vulnerabilità sconosciute ed eseguirne l’exploit senza guida umana. Dice anche che il modello ha superato una “soglia critica di cybersicurezza” interna. L’azienda promette un’anteprima “presto” e limiterà l’accesso alle capacità più sensibili¹.

Il laboratorio parla del primo LLM che oltrepassa quella soglia. La descrive come un punto in cui le funzioni di sicurezza diventano abbastanza potenti da richiedere cautele extra. Per questo prevede un rollout graduale, con anteprima a un gruppo selezionato e restrizioni sulle funzioni più rischiose. Non indica date, criteri di accesso o modalità di feedback. Non cita audit esterni previsti per questa fase¹.

OpenAI riferisce che Astra ha ottenuto un punteggio perfetto su ExploitBench, un set di prove per misurare la capacità di sfruttare vulnerabilità note. Collega il risultato alla descrizione di capacità offensive del modello in contesti di test. Il materiale pubblicato non spiega la metodologia di ExploitBench, né come l’azienda ha condotto e verificato le prove. Mancano quindi dettagli che permettano di replicare la valutazione in modo indipendente¹.

La società non fornisce una data di rilascio. Indica solo che le funzioni di cybersicurezza resteranno sotto controllo più stretto anche dopo l’anteprima. Non emergono informazioni su identità e numero dei tester, su eventuali revisioni esterne, o su come gestirà l’accesso a funzionalità potenzialmente dannose. Restano aperte anche le modalità di coordinamento con le autorità: il materiale non menziona consultazioni o valutazioni governative pre-rilascio¹.

OpenAI richiama esperienze recenti del settore e cita Mythos di Anthropic, menzionato a inizio anno per preoccupazioni simili. Sostiene di preparare il rollout di Astra con accorgimenti comparabili. L’azienda non dettaglia però quali controlli userà né come misurerà la riduzione del rischio nell’uso delle funzioni più avanzate¹.

Il quadro attuale è netto ma parziale: un modello presentato come capace di individuare e sfruttare falle; un benchmark interno su cui ottiene il massimo punteggio; un’uscita vicina ma con funzionalità chiave sotto chiave. Manca un link a dati tecnici completi, a protocolli sperimentali o a verifiche indipendenti. Senza questi elementi, pesare portata e rischi delle capacità descritte resta difficile¹.

Due passaggi possono sbloccare la valutazione pubblica. Primo: test indipendenti che confermino i risultati su ExploitBench o su prove equivalenti e documentate. Secondo: trasparenza su criteri di accesso, metriche e governance dell’anteprima. Finché questi tasselli non arrivano, sviluppatori e difensori vedranno soprattutto vincoli e incognite operative, più che prove concrete di utilità e sicurezza del modello¹.