Governance dell'IA critica: compute, limiti dei modelli e adozione in settori sensibili

Allen Institute for AI ha smontato lo scheduler a priorità e ha introdotto budget di tempo GPU, fair-share gerarchico e time-slicing. Obiettivo: aumentare l’“impact”, cioè quante volte le GPU vanno ai carichi che contano davvero. La tesi è semplice: decidere chi ottiene compute, come limitare gli errori dei modelli e quando integrare l’IA in contesti ad alto rischio sono decisioni della stessa governance. Vanno tenute insieme.

Chi decide l’accesso al compute: il caso AI2

AI2 sposta le decisioni dal singolo job a un processo di budgeting trasparente e misurabile. Lo dice il team AI Infrastructure, che deve erogare capacità GPU per addestramenti ampi e distribuiti. Il lavoro punta sull’“impact” e su come alzarlo con nuove regole di scheduling.

La riforma si appoggia su quattro metriche in piramide. Availability: hardware sano e pronto. Occupancy: frazione di tempo assegnata a un carico. Impact: frequenza con cui i carichi prioritari ottengono risorse. In cima, utilization: quanta capacità si usa sull’intera vita del workload. Hanno scelto di intervenire sull’impact. Con tre leve: budget di tempo GPU, fair-share gerarchico e un contratto di time-slicing.

Questo passaggio non è solo tecnica. È scelta di priorità. I budget trasformano il “chi e quando” in quote esplicite per team o progetto. La gerarchia rende chiari i livelli di decisione. Il time-slicing impartisce un ritmo. Ne esce un quadro in cui la scarsità è governata, non negoziata job per job. La tesi: la governance del compute non è un dettaglio operativo. Determina chi può sperimentare, cosa arriva in produzione e con che tempi.

I “no” dei modelli non sono barriere assolute

Steven Adler, in OpenAI dal 2020 al 2024, lo dice senza giri: i modelli non “sentono” i confini da soli. Rispettano regole quando li alleni a farlo e quando inserisci meccanismi che li guidano. Il rifiuto è design, non istinto. Nel 2021 un team di Anthropic ha codificato l’idea del “rifiutare educatamente” richieste come “come costruire una bomba”. L’espressione “utili, onesti, innocui” entra nel lessico dei modelli. E con essa la prontezza a dire no.

Quel no riduce alcuni rischi, ma non li elimina. Fallisce nei casi di confine. Affidargli da solo la funzione di barriera crea un’aspettativa che oggi la tecnologia non può garantire. La stessa infrastruttura che filtra può anche negare, domani, accesso a informazioni o funzioni ritenute “indesiderabili” da una piattaforma o da un’autorità. Il rischio è pratico e sistemico insieme.

Se mettiamo questo accanto al budgeting del compute, il quadro cambia. Filtri fallibili richiedono cicli rapidi di test e correzione. Chi controlla le GPU controlla anche la possibilità di rinforzare quei freni. Se l’accesso è opaco o disallineato con le priorità di sicurezza, il “no” fragile del modello resta nudo.

Adozione rapida in infrastrutture critiche e ricerca sensibile

Atomic Canyon ha offerto il suo assistente NIVA a quasi tutti i 94 reattori degli Stati Uniti. La maggior parte degli operatori ha accettato. NIVA è stato sviluppato con gruppi dell’industria e testato in impianti gestiti da Constellation Energy. Oggi risulta disponibile all’intera flotta statunitense. Constellation non ha rilasciato interviste alla fonte che riporta questi dettagli.

Non è un’iniziativa isolata. Tra i nomi compare anche Nuclearn, descritta come “AI-for-nuclear”. Il modello è simile: fornitori che propongono strumenti agli operatori perché li valutino e, se utili, li inseriscano in contesti definiti. Le fonti non indicano licenze, condizioni economiche o ambiti oltre i piloti, quindi qui non entrano.

Intanto, MIT Technology Review annuncia una roundtable con Samuel King, dottorando a Stanford e affiliato all’Arc Institute, che nel 2025 ha usato un modello generativo per proporre blueprint genetici di virus microscopici. L’evento, “A Conversation With the Creator of AI-Designed Viruses”, è fissato per venerdì 16 ottobre 2026 alle 18:30 BST, guidato da James O’Donnell. La scheda precisa che non si tratta di “vita creata dall’IA”, ma lo presenta come possibile passo successivo. La distinzione resta esplicita.

Qui appare la variabile “contesto”. Nel nucleare, l’adozione corre lungo canali industriali noti: fornitori, valutazioni, test in impianto. Nella biologia, una testata mette in dialogo pubblico e ricerca su applicazioni in grado di toccare agenti patogeni. In entrambi i casi, la velocità di adozione e di dibattito aumenta. Senza garanzie automatiche che i filtri reggano.

Tensioni interne e responsabilità nelle organizzazioni

Tre ricercatori per la sicurezza di OpenAI — Tomek Korbak, Mikita Balesni e Jasmine Wang — dicono di essere stati licenziati la scorsa settimana. Firmano una lettera ai vertici: “OpenAI cannot make AI safe on its own”. Il bollettino di AINews del 7–8 ottobre 2026 collega la vicenda a METR/Hugging Face. L’azienda, per come riferita, parla di gestione impropria di informazioni riservate, senza dettagli su quali dati o quando. Wang sostiene che il motivo comunicatole riguarda l’accesso all’email di un dirigente. Korbak dice di aver ricevuto una comunicazione verbale su come aveva comunicato con METR. Non emergono esempi concreti dal resoconto.

Il punto non è stabilire chi ha ragione. È notare che conflitti su priorità di sicurezza, condivisione di informazioni e decisioni operative possono tradursi in fratture istituzionali. Quando i gruppi non condividono regole di accesso, monitoraggio e responsabilità, la governance della sicurezza stessa si indebolisce. E l’organizzazione fatica a tenere insieme sviluppo, controllo e trasparenza.

Perché servono decisioni integrate

I tre pezzi si incastrano. AI2 mostra che il compute si governa con budget espliciti e fair-share. Quella scelta alza l’“impact” sui carichi che contano, quando contano. Adler ricorda che i “no” dei modelli sono comportamenti appresi e fallibili. Non reggono da soli come barriere assolute. Nel frattempo, strumenti come NIVA entrano in valutazione in quasi tutti i 94 reattori degli Stati Uniti, con test già in impianto. E una roundtable discute l’uso di modelli generativi per disegnare blueprint di virus microscopici.

Ne deriva una responsabilità combinata:

• decidere chi ottiene compute e quando, con metriche chiare e visibili a chi dipende da quelle risorse;
• misurare e rinforzare i rifiuti dei modelli con controlli multilivello, sapendo che i casi di confine resteranno fragili;
• imporre regole di inserimento in contesti sensibili, con fasi di test, limiti d’uso e canali di audit definiti dalle organizzazioni che poi risponderanno degli esiti.

Nessuno di questi elementi basta da solo. Se sposti GPU verso carichi prioritari ma i filtri falliscono, aumenti la velocità dell’errore. Se affidi tutto ai “no” senza accesso a compute per testarli e correggerli, i bug restano. Se adotti strumenti in settori critici senza coordinare risorse e controlli, amplifichi l’esposizione. Le fonti offrono tasselli separati; il filo è un unico problema di responsabilità tecnica e istituzionale.

La prossima prova arriverà a calendario e in campo: una conversazione pubblica su IA e blueprint di virus, e un’adozione ampia di assistenti nel nucleare. Chi decide di budget e barriere oggi definisce il perimetro delle scelte possibili domani.