Nadella: i modelli AI devono avere un “freno di emergenza”

Satya Nadella chiede un freno di emergenza per i modelli di intelligenza artificiale: “una persona autorizzata” deve poter mettere in pausa o spegnere un modello mentre esegue un compito¹.

In un post del sabato mattina su X, il CEO di Microsoft scrive che è tempo di “fare un passo indietro e valutare l’architettura della fiducia” dell’AI¹. Invita a riconsiderare come costruiamo e governiamo i sistemi. Non basta accettare i risultati o respingerli in blocco. Serve una revisione dell’impianto di fiducia.

Nadella afferma che non possiamo trattare la “Super Intelligence” come “scatole nere annidate” di cui accettare o rifiutare raccomandazioni, risposte e azioni¹. Usa “Super Intelligence” come termine preferito dall’amministrazione Trump per indicare l’AI¹. Il punto è esplicito: l’opacità non può dettare il modo in cui prendiamo decisioni.

Nadella propone di “separare il modello dall’harness che orchestra il suo lavoro”¹. Chiede di “esternalizzare controlli e salvaguardie” rispetto al modello stesso¹. Queste scelte, scrive, definiscono l’approccio: il modello genera output; un altro strato lo orchestra; i controlli restano fuori da entrambi.

C’è la tracciabilità delle azioni. Nadella vuole che “ogni azione significativa del modello” sia documentata con “prove leggibili a prova di manomissione”¹. Non parla di una documentazione generica. Parla di evidenze che una persona possa leggere e che non si possano alterare. La richiesta è chiara: per ogni azione significativa deve esistere una prova leggibile e immodificabile.

L’intervento umano deve restare possibile “a metà del compito”¹. Nadella chiede sistemi in cui “una persona autorizzata” abbia sempre la possibilità di mettere in pausa o spegnere un modello mentre sta lavorando¹. Non si limita all’esito finale. Indica un potere di interruzione durante l’esecuzione. “Pensatela come un freno di emergenza”, scrive¹.

“Dobbiamo presumere che un modello sia compromesso e contenerlo fin dall’inizio”¹. Con questa frase Nadella riassume il principio operativo che guida la proposta: partire dall’ipotesi di compromissione e limitare il perimetro d’azione del modello sin dall’avvio. Il contenimento non è opzionale. È l’assunto di base.

Nadella è “l’ultimo dirigente tecnologico” a intervenire sul tema di come migliorare la sicurezza dell’AI¹. Il suo post elenca misure concrete: separare modello e orchestrazione; spostare controlli e salvaguardie all’esterno; tracciare con prove non manomissibili ogni azione significativa; garantire la possibilità di mettere in pausa o spegnere un modello durante l’esecuzione¹. L’insieme compone l’“architettura della fiducia” che, secondo lui, va rivalutata.

Le sue parole arrivano mentre aziende leader dell’AI riconoscono “sempre più incidenti” in cui “sembravano perdere il controllo dei loro modelli”¹. Arrivano anche dopo che il CEO di Anthropic, Dario Amodei, ha pubblicato un piano per uno sviluppo più cauto dell’AI¹. Il contesto rafforza la richiesta del “freno di emergenza”: una misura da prevedere prima che il modello agisca fuori controllo¹.