Bowley: il vero rischio non è un'IA che ci stermina, ma l'integrazione sconsiderata

Rob Bowley chiede di rallentare l’integrazione di agenti IA nei sistemi operativi: “quello su cui dobbiamo davvero rallentare è il collegare tutto a tutto”.

Sposta il fuoco dal rischio esistenziale al danno immediato. Non parla di macchine che ci elimineranno. Indica un problema concreto: innestare agenti ovunque, in fretta, senza controlli. Vede costi già in bilancio. Attacchi che fermano linee produttive. Dati esposti. Ripristini lenti e cari. Spesso senza che l’IA sia il vettore. Il messaggio è di priorità: chiedere una “pausa” generica sull’IA distrae dalle falle che stiamo aprendo oggi, quando colleghiamo automazioni a processi reali.

Bowley propone una regola di cautela: evitare i contesti che attivano la “Lethal Trifecta”. Usa questa espressione per descrivere combinazioni di condizioni che creano una “gaping security hole”. Troppi agenti vengono inseriti proprio lì, aumentando superfici d’attacco che non sappiamo contenere.

L’avvertimento è operativo. “Non perché i modelli potrebbero diventare qualcosa,” scrive, “ma perché nessuno ha ancora capito come farlo in modo sicuro.” Stiamo “costruendo su qualcosa che non sappiamo come contenere, e lo spediamo a tutti mentre cerchiamo di capirlo”. Non serve un’IA malevola per fare danni. Bastano automatismi con poteri d’azione ampi, agganciati a risorse interne, esposti a input imprevedibili. Un singolo errore può attivare effetti a catena: blocchi di processo, perdita di integrità, tempi di ripristino dilatati. La logica è semplice: prima si definiscono confini e meccanismi di contenimento, poi si amplia il perimetro dell’integrazione.

Per Bowley la pausa utile non riguarda la ricerca sui modelli. Riguarda l’automatismo del “collegare” senza discernimento. Evitare cablaggi indiscriminati. Limitare i permessi per impostazione predefinita. Rendere visibili e isolati i punti di controllo. Introdurre limiti d’azione chiari per gli agenti. Solo dopo, estendere l’adozione. “Smettiamo di inseguire la saturazione dell’IA in ogni flusso,” sintetizza, “e affrontiamo i varchi che abbiamo già aperto”.

Il punto non è il catastrofismo. È governance. Le integrazioni accelerano l’esposizione a rischi ordinari e misurabili. Gli incidenti arrivano molto prima di qualsiasi scenario estremo. Fermare oggi la corsa all’innesto onnipresente può evitare costi certi domani.

C’è una conseguenza pratica per chi costruisce prodotti: i benefici degli agenti emergono solo se i poteri sono proporzionati al contesto. Ridurre l’area di manovra aiuta anche la progettazione. I team vedono dove passa il controllo, individuano colli di bottiglia, progettano interfacce di arresto. In caso contrario, l’automazione si confonde con il rumore di fondo e nessuno capisce più chi fa cosa, con quale autorizzazione e fino a dove può spingersi.