METR: i modelli del 15 luglio 2026 avevano basso rischio catastrofico ma potevano aver già superato un allarme precoce

METR conclude che al 15 luglio 2026 i modelli interni di Anthropic presentavano un basso rischio di automatizzare direttamente la R&D in domini chiave. Aggiunge però che è plausibile che una soglia di early warning fosse già stata oltrepassata, nonostante il Risk Report pubblico di Anthropic sostenga il contrario¹.

La revisione copre la sezione “Risks from automated R&D” del Risk Report di agosto 2026. Anthropic ha condiviso con METR una versione privata della sezione e altri dati non pubblici, nell’ambito di una valutazione ad alto accesso sulla possibile accelerazione della R&D tramite AI. Lo stesso team di METR ha curato in parallelo una valutazione olistica sull’accelerazione della R&D in Anthropic¹.

Secondo METR, il punto di accordo con Anthropic è netto: al 15 luglio i modelli interni comportavano un rischio basso di scatenare rischi catastrofici acuti attraverso l’accelerazione delle capacità. La divergenza riguarda la soglia di early warning. Il report pubblico si appoggia a giudizi valutativi che non appaiono chiaramente nel documento. I ricercatori di METR e lo staff di Anthropic tendono a ritenere che la soglia non fosse stata superata, ma METR considera plausibile l’opposto e giudica che il report sottostimi l’accelerazione in corso¹.

L’RSP v3.4 di Anthropic fissa due soglie per la categoria “Automated R&D in key domains”. METR, per chiarezza, le nomina così: Full Substitution Threshold, quando un modello può sostituire l’intero gruppo di Research Scientists e Research Engineers di Anthropic a costi competitivi entro un fattore 5; 2x Acceleration Threshold, quando si osserva un’accelerazione “drammatica” del progresso attribuibile con probabilità all’automazione della R&D. Il Risk Report afferma che la soglia di sostituzione non era stata raggiunta alla data considerata¹.

Tra il 12 agosto e il 29 ottobre 2026, METR ha condotto un’analisi ad alto accesso in Anthropic. Ha esaminato metriche di pretraining, reinforcement learning, compute per dominio, benchmark dei modelli, analisi di speedup, previsioni sulle metriche di futuri modelli e interviste con personale rilevante². Parte delle prove più informative resta coperta da redazioni operate da Anthropic, motivate dall’obiettivo di non agevolare altri sviluppatori di AI. METR segnala che molte di queste prove hanno interpretazioni multiple e che, per questo, il pubblico deve affidarsi più del desiderabile al giudizio dei ricercatori. La trasparenza sulle evidenze non è pienamente raggiunta².

Con i dati disponibili, METR stima che a ottobre 2026 Anthropic migliorasse le capacità dei propri modelli su compiti ben specificati a circa il doppio del tasso osservato tra marzo 2024 e ottobre 2025. L’intervallo plausibile va da 1,3x a 3x. METR attribuisce probabilmente la quota maggiore di questa accelerazione all’uso esteso dell’AI nella R&D, pur con ampia incertezza e riconoscendo altri fattori rilevanti soprattutto a fine 2025².

Restano zone grigie. Alcuni passaggi chiave della lettura della soglia di early warning dipendono da giudizi contestabili non esplicitati con chiarezza nel report pubblico¹. Inoltre, METR non ha osservato colli di bottiglia marcati o forti rendimenti decrescenti, il che indica un rischio significativo di ulteriori avanzamenti di capacità².

Prossimo test per la governance interna: chiarire quando e come le soglie dell’RSP scattano nella pratica, così da rendere verificabili dall’esterno i futuri giudizi su accelerazione e allarmi precoci^1,2.