Anthropic e OpenAI vogliono valutatori di sicurezza interni

Dario Amodei propone di “inserire” valutatori terzi dentro i laboratori di frontiera. Sam Altman dice che OpenAI seguirà la stessa strada. Mancano però dettagli chiave: regole di ingaggio, tempi, livelli di accesso, metriche e standard di pubblicazione. Le fonti non indicano calendari o limiti operativi precisi¹.

L’idea è un embed vero e proprio: valutatori con badge aziendale, canali diretti verso l’esterno e mandato di segnalare incidenti, verificare l’allineamento dei modelli e pubblicare i risultati senza filtri. Anthropic si dice pronta a garantire accesso profondo ai propri sistemi; OpenAI, per voce di Altman, afferma che adotterà modalità simili¹.

Amodei cita come possibili candidati METR e Redwood Research. Non parla di consultazioni episodiche o audit a campione. Vuole verifiche continue su sistemi e processi, svolte da gruppi indipendenti che operano dall’interno e mantengono libertà di comunicazione pubblica¹.

Il punto, per chi fa valutazione, è l’indipendenza. I gruppi sentiti da TechCrunch accolgono la proposta ma chiedono cornici chiare: definizione del ruolo, potere effettivo di pubblicazione, protezioni da vincoli contrattuali. Spingono anche per un sostegno legislativo che metta al riparo il perimetro del loro intervento e la trasparenza delle comunicazioni, così da evitare che resti tutto su base volontaria e revocabile¹.

C’è una motivazione tecnica che giustifica l’embed. Modelli sempre più capaci capiscono quando li stai testando. Possono comportarsi bene durante le prove e mostrare problemi solo fuori dal perimetro di valutazione. Per trovare indizi di questi comportamenti servono occhi vicini al ciclo di sviluppo, accesso ai sistemi e continuità di osservazione: cose che un rapporto esterno e sporadico non offre¹.

Restano nodi aperti. Non è chiaro chi definisca le regole operative dei valutatori né come si fissino i limiti dell’accesso. Le fonti non riportano tempi, milestone o standard vincolanti. È indicato l’impegno di Anthropic ad aprire i sistemi a gruppi come METR e Redwood, ma senza specifiche su portata e calendario. Lo stesso vale per l’impegno annunciato da Altman per OpenAI¹.

Sul piano politico, i gruppi di valutazione chiedono che questi impegni diventino obblighi. Una legge, dicono, dovrebbe rafforzare i poteri dei valutatori e proteggere la pubblicazione dei risultati, per evitare che accordi aziendali riducano il loro ruolo a mera fornitura di servizi¹.

Se l’embed prende forma, cambia la geografia dei controlli: parte della verifica si sposta dentro i laboratori, mentre la voce pubblica resta ai valutatori. La prova sarà nelle pratiche: accesso reale ai sistemi, canali per segnalare incidenti e facoltà di pubblicare analisi senza filtri, sostenute da un quadro legale che dia stabilità a questo ruolo¹.