Il CEO di Anthropic chiede di rallentare lo sviluppo dell'IA

Anthropic apre i suoi modelli a valutatori indipendenti come METR e, per bocca del CEO Dario Amodei, chiede di rallentare lo sviluppo dell’IA per dare spazio a test e salvaguardie. L’azienda presenta l’apertura come primo passo di un piano in tre fasi per “pace the frontier”, cioè modulare il ritmo di addestramento e sviluppo in base ai controlli disponibili¹.

Amodei lega la velocità del progresso alla capacità di valutare i rischi. Non invoca uno stop indefinito. Propone di sincronizzare l’avanzamento tecnico con test e supervisione adeguati, così da costruire salvaguardie prima di spingere i modelli verso nuove capacità e lasciare ai regolatori il tempo di valutarli¹.

Primo passo: accesso esteso a valutatori esterni, con METR tra i destinatari. Anthropic afferma di adottarlo subito e in modo unilaterale. Obiettivo dichiarato: consentire verifiche indipendenti sull’aderenza a pratiche e impegni di sicurezza, superando l’autovalutazione interna¹.

Secondo passo: un’azione di settore, insieme ad agenzie governative, per definire standard di sicurezza comuni e limiti al ritmo del progresso “non controllato”. Amodei indica il perimetro delle democrazie come contesto iniziale. Riconosce che leggi e infrastrutture regolatorie richiedono tempo e invita le aziende a lavorare tra pari su regole condivise anche prima della chiusura dei processi istituzionali¹.

Terzo passo: coinvolgere i governi autoritari. Amodei lo definisce il segmento più difficile della sequenza. L’idea è estendere lo stesso quadro di standard e limiti oltre le democrazie, sapendo che qui la cooperazione è più complessa¹.

La sequenza è precisa: prima test indipendenti; poi standard e limiti comuni nel settore con supporto pubblico; infine tentare di allargare il perimetro ai contesti non democratici. La logica resta invariata lungo i tre passaggi: rallentare quando mancano controlli, accelerare solo quando test e salvaguardie tengono il passo¹.

Amodei presenta così un compromesso operativo: il settore continua a innovare, ma lo fa al ritmo che i controlli consentono. L’apertura a valutatori come METR serve a trasformare l’intento in pratica verificabile. Standard condivisi e limiti espliciti mirano a ridurre il “progresso non controllato”, cioè l’avanzamento privo di test adeguati. Il tentativo di includere regimi autoritari punta a evitare che regole applicate solo in alcune giurisdizioni perdano efficacia¹.

Resta una questione pratica: chi definisce, misura e fa rispettare quei limiti quando gli incentivi del mercato spingono nella direzione opposta? La risposta, nel piano di Amodei, inizia da un atto unilaterale di trasparenza tecnica e chiede poi co-regolazione di settore. Se questa filiera di responsabilità attecchirà fuori dalle democrazie, il test più duro arriverà proprio dove il piano lo prevede: nel terzo passo¹.