Governance degli agenti AI: specifiche aperte, gate operativi, dati e audit

Radical Numerics ha somministrato a una persona un cocktail di batteriofagi progettati con AI e non ha comunicato esiti. Dice che è un primo caso, in uso compassionevole⁴. La tesi: se gli agenti e i modelli entrano in contesti ad alto rischio, servono quattro pilastri insieme, non a pezzi. Specifiche aperte. Gate operativi prima di toccare il codice. Controlli riproducibili sui dataset. Audit e reporting quando ci sono persone di mezzo.

Specifiche aperte e neutralità dei vendor

Agentic AI Foundation ha preso in stewardship quattro progetti per agenti AI donati da Alibaba, Anthropic, Hugging Face e OpenAI. Il portafoglio sale a dieci iniziative. Obiettivo dichiarato: strumenti neutrali rispetto ai fornitori per costruire e mettere in produzione agenti con maggiore prevedibilità¹. I trasferimenti hanno nomi precisi: OpenSandbox da Alibaba, Agent Skills da Anthropic, OpenEnv da Hugging Face, Open Responses da OpenAI. Il controllo passa alla fondazione, che diventa il riferimento comunitario per questi asset¹.

La fondazione è stata avviata a dicembre 2025 sotto l’egida della Linux Foundation con un mandato esplicito: separare gli strumenti dai piani dei singoli fornitori e costruire un terreno comune per chi sviluppa agenti¹. All’avvio supervisionava tre iniziative: Model Context Protocol, goose e AGENTS.md. Con le nuove adozioni arriva a dieci. Il perimetro resta lo stesso: componenti riutilizzabili per agenti¹.

Questo è un tassello. Standard e stewardship puntano a ridurre attriti tra strumenti. Ma non dicono come far uscire lavoro verificabile da un agente in un repository. Né come proteggere la valutazione quando i dataset portano errori strutturali. Serve il resto della catena.

Gate operativi per consegnare codice dagli agenti

Sisig.ai ha pubblicato agent-doctrine, una metodologia open source per far consegnare patch verificate e pronte per una pull request. Il ciclo ha otto fasi fisse: scout, gate, plan, implement, review, consolidate, verify, ship². L’agente con cui si parla fa da lead. Pianifica, delega, coordina i passaggi. Scrive codice a mano solo su istruzione esplicita².

Il gate è la stretta. Prima di qualsiasi edit, il lead risponde nel transcript a quindici domande tratte da TENETS.md. Porta evidenze. Domande pratiche: qual è la modifica minima corretta. Qual è il blast radius. Come proverai la modifica su dati reali. Se non sa rispondere, non passa all’implementazione². La squadra segue ruoli distinti. Lo scout legge il codebase prima della pianificazione².

Il valore qui è operativo. Transcript obbligatori. Ruoli separati. Checkpoint che fermano l’azione se mancano prove. Questo traduce la neutralità delle specifiche in responsabilità tracciabile. Riduce l’ambiguità tipica degli agenti generalisti. E alza la soglia prima di toccare il codice.

Integrità dei dataset e rischio di valutazioni fuorvianti

Munim ha pubblicato dieci censimenti riproducibili in due settimane. Target: verificare se i benchmark di natural language inference e le prove di QA a scelta multipla contengono esempi duplicati con etichette in conflitto e sovrapposizioni tra dataset spesso uniti in addestramento, come SNLI e MultiNLI³. Il criterio di identità è operativo e stretto. Per l’NLI conta la coppia premessa, ipotesi. Per la scelta multipla conta la coppia testo della domanda, insieme di opzioni. L’etichetta d’oro è la risposta assegnata. A parità di testo, due etichette diverse generano un conflitto³.

Il workflow è dichiarato e chiuso. Prima costruiscono a mano un fixture sintetico con i casi attesi. Poi congelano i conteggi previsti. Infine eseguono l’analisi in un contenitore sigillato sui dati ufficiali. Questo ancora i risultati a controlli ex ante e all’uso di release pubbliche, così chiunque può replicare le verifiche³.

L’implicazione è concreta. Se lo stesso esempio compare in più corpus poi fusi per l’addestramento, la separazione tra training e valutazione si offusca³. Benchmark con duplicati o etichette in conflitto possono spostare le metriche e indurre scelte sbagliate. Né le specifiche né i gate bastano, se la base dati confonde gli obiettivi.

Rischi concreti quando l’AI entra nella biomedicina

Radical Numerics ha reso noto di aver somministrato a una persona un cocktail di batteriòfagi progettati con AI. L’azienda lo descrive come un primo caso. Dice che l’intervento è avvenuto in uso compassionevole. Non comunica esiti: “non sono pronti a dire come è andata”⁴. I batteriòfagi sono virus che infettano specificamente i batteri. La loro applicazione terapeutica non è nuova. Possono colpire ceppi mirati e ridurre gli effetti sui batteri intestinali benefici, a differenza di antibiotici a largo spettro⁴.

La novità riguarda la progettazione dei fagi. Qui entra la modellazione. Quando il progetto genera una terapia, il confine tra errore tecnico e rischio clinico si assottiglia. In questi casi, oltre a specifiche, gate e dataset puliti, servono audit esterni e reporting degli esiti. Non per spettacolo, per permettere controlli indipendenti e apprendimento condiviso⁴.

Un ecosistema integrato: che cosa serve davvero

Le quattro vicende coprono fasi diverse della stessa filiera. La Agentic AI Foundation lavora su specifiche e componenti neutrali rispetto ai fornitori, con progetti donati da Alibaba, Anthropic, Hugging Face e OpenAI, e un portafoglio che sale a dieci iniziative¹. Sisig.ai propone un ciclo in otto fasi con un gate di quindici domande che blocca le modifiche finché mancano prove nel transcript². Munim mostra come censimenti riproducibili possano scoprire duplicati e etichette in conflitto, e ancorare l’analisi a fixture e contenitori sigillati³. Radical Numerics porta la questione su un paziente, con una somministrazione dichiarata come prima e senza esiti pubblicati⁴.

Cosa hanno in comune. Puntano a ridurre incertezza e conflitti. Separano i piani: specifiche e stewardship, pratica operativa, qualità dei dati, responsabilità sugli impatti. Dove divergono. Il grado di formalità, i contesti e le conseguenze. Una pull request rifiutata è un costo di progetto. Un benchmark con conflitti di etichetta altera la metrica. Un cocktail progettato con AI somministrato in uso compassionevole alza la posta^3,4.

Che tendenza disegnano. La governance degli agenti richiede strati coordinati:

• specifiche e progetti neutrali per ridurre la frizione tra strumenti¹;
• workflow con gate e transcript per rendere verificabile l’azione dell’agente²;
• audit riproducibili dei dataset per difendere la validità della valutazione³;
• meccanismi di audit esterni e reporting degli esiti quando il rischio tocca la salute⁴.

Per chi sviluppa agenti, il compito operativo è tenere insieme questi elementi. Adottare standard neutrali quando disponibili. Imporre un gate con evidenze prima di qualsiasi edit. Eseguire controlli riproducibili sui dataset usati per addestrare e valutare. Pretendere audit indipendenti e trasparenza degli esiti quando si entra in domini clinici. Tutto documentato, tutto replicabile.