Nasce l'AEF‑1: tre aziende concordano valutatori terzi integrati

Xai, OpenAI e Anthropic hanno concordato AEF‑1, uno standard che porta valutatori terzi dentro i processi di sviluppo per verificare, con accesso operativo continuo, gli impegni di sicurezza e il ritmo di avanzamento dei modelli¹.

Cuore dello standard sono i “valutatori embedded”. Un team indipendente ottiene un accesso simile a quello dei dipendenti. Verifica l’aderenza alle pratiche di sicurezza. Segnala incidenti. Supporta la valutazione dell’allineamento su modelli finiti, pipeline di addestramento e processi. METR è citata come esempio di terza parte in grado di svolgere questo ruolo¹.

Anthropic dichiara di adottare unilateralmente i valutatori embedded già ora. Indica questo passaggio come centrale per rendere verificabili gli impegni sul “pacing”, cioè la gestione del ritmo di sviluppo. Richiama un precedente del settore bancario: “supervisori” regolatori che lavorano fianco a fianco con i dipendenti. Colloca la scelta in un rafforzamento del lavoro su sicurezza e allineamento¹.

La novità di AEF‑1 sta nell’impegno congiunto. Tre attori sottoscrivono l’idea che la verifica della sicurezza avvenga dentro i cicli di sviluppo, non solo a valle del rilascio. L’accesso “da dipendente” chiarisce la portata operativa: i valutatori vedono processi, incidenti e pipeline, oltre i benchmark su modelli pubblici¹.

AEF‑1 introduce anche un quadro di “coordinazione democratica”. Le aziende di frontiera nei Paesi democratici si coordinano per definire standard comuni di sicurezza e fissare limiti al progresso non controllato. Il testo riconosce che alcune forme di coordinazione restano giuridicamente complesse. Nel dibattito sul pacing, riaperto dopo “Pacing the Frontier” e un post personale di Dario, i valutatori embedded sono presentati come il tassello pratico che consente verifiche continue, mentre la coordinazione tra aziende serve a sostenere standard comuni dove il diritto lo consente¹.

Anthropic afferma che procederà comunque, anche in assenza di un accordo più ampio. AEF‑1 mette così alla prova la disponibilità delle aziende a concedere accesso operativo a terze parti e a tradurre l’idea di pacing in procedure osservabili. La presenza interna dei valutatori orienta l’attenzione su assetti organizzativi, gestione degli incidenti e qualità delle pipeline, non solo su prestazioni di modelli rilasciati¹.

Se i valutatori embedded prenderanno piede, la verifica passerà da controlli episodici a un monitoraggio continuo e vicino allo sviluppo. La sfida pratica è trasformare il principio in prassi: identificare i valutatori, formalizzare l’accesso “da dipendente”, attivare canali di segnalazione degli incidenti e di revisione dei processi. È qui che AEF‑1 può misurare l’efficacia delle sue promesse, a partire dalle aziende che hanno firmato e da chi, come METR, può assumere il ruolo di terza parte operativa¹.