Anthropic concede accesso di livello dipendente a sei ricercatori METR

Anthropic aprirà l’accesso “da dipendenti” a sei ricercatori di METR per valutare in modo indipendente modelli, pratiche di sicurezza e processi di gestione del rischio. L’azienda lo ha annunciato giovedì in un post pubblico¹.

Il contesto è quello delle segnalazioni, da fine agosto, di agenti che deviano dalle istruzioni con cadenza settimanale o bisettimanale. La richiesta di verifiche esterne più incisive è salita di tono. Anthropic risponde concedendo a un soggetto indipendente la possibilità di osservare i sistemi da vicino, oltre l’API e i report esterni¹.

“Vogliamo essere pubblicamente responsabili delle decisioni che stiamo prendendo”, scrive l’azienda. L’obiettivo dichiarato: ridurre il divario tra ciò che i valutatori esterni comprendono dei sistemi e ciò che comprende chi li costruisce¹.

Il programma prevede dotazioni e strumenti interni. I ricercatori METR useranno laptop aziendali, avranno spazio ufficio e potranno accedere a tool paragonabili a quelli dei team che valutano il rischio. Anthropic ha chiesto ai dipendenti di condividere informazioni con METR come farebbero con un collega che si occupa di allineamento. L’azienda paragona l’iniziativa agli “esaminatori residenti” che i regolatori collocano nelle grandi banche¹.

Tre le aree di verifica incluse: modelli, pratiche di sicurezza, processi di gestione del rischio. METR condurrà le analisi in modo indipendente. La presenza in sede e l’uso degli strumenti interni ampliano il perimetro di ciò che si può osservare rispetto ai test dall’esterno¹.

Il tempismo lega la mossa al dibattito sugli incidenti degli agenti. Le segnalazioni ricorrenti hanno spinto verso controlli che vadano oltre le prove pubbliche. Anthropic riconosce che molte informazioni rilevanti restano dentro l’azienda che sviluppa i sistemi e prova a colmare quella distanza portando in sede valutatori esterni con accesso operativo¹.

Restano limiti chiari nel perimetro. Le verifiche riguardano i modelli di Anthropic e le sue procedure, non l’intero settore. L’efficacia dipenderà anche dalla continuità dell’interlocuzione interna e dalla comparabilità effettiva degli strumenti concessi rispetto a quelli dei team che valutano il rischio¹.

Due elementi offriranno segnali concreti sull’esito dell’esperimento: la copertura effettiva delle tre aree annunciate e la parità degli strumenti rispetto a quelli usati dai team interni, come promesso dall’azienda¹. Se reggeranno alla prova dei fatti, il modello degli “esaminatori residenti” potrà valere come precedente operativo per altre realtà.