Sicurezza e governance AI: tre leve pratiche nella produzione dei modelli

Anthropic ha aggiunto nel prompt di sistema di Fable 5.1 un divieto esplicito: “Claude does not reproduce song lyrics, poems,”. La modifica, che Simon Willison definisce “hefty”, è la differenza più rilevante rispetto a Fable 5 [S1]. La tesi: chi porta l’AI in produzione combina tre leve complementari — regole trasparenti sui prompt, controlli tecnici runtime e capacità difensive integrate nei prodotti — come mostrano anche i 100 milioni raccolti da HiddenLayer, la variante “Cyber” di Gemini 3.8 Flash e l’acquisizione di Console da parte di Palo Alto Networks.

1) Trasparenza dei prompt e regole d’uso come primo controllo

Anthropic ha reso pubblici i system prompt delle app consumer di Claude, che coprono il sito Claude.ai e le app mobili. Restano fuori Claude Cowork e Claude Code. La pagina unica è diventata un indice per modello, con storico delle versioni e pagine dedicate che consentono di confrontare le revisioni nel tempo [S1].

Il caso Haiku 4.5 è esemplare: due versioni con date precise, originale del 15 ottobre 2025 e aggiornamento del 18 gennaio 2026. Il layout per modello consente di vedere subito cosa cambia tra una revisione e l’altra [S1]. La novità più evidente emerge su Fable: il passaggio dalla versione 5 alla 5.1 introduce la sezione che vieta la riproduzione di testi di canzoni e poesie. Willison la segnala come la differenza più rilevante tra le due versioni e cita la frase che impone il divieto [S1].

L’effetto pratico è duplice. Le policy non restano in documenti separati ma entrano nel prompt di sistema, dove incidono sul comportamento del modello. La pubblicazione con storico rende le regole verificabili nel tempo anche dall’esterno. È una leva di governance che fissa confini operativi e produce un riferimento stabile per chi gestisce rischi e compliance.

2) Strumenti tecnici per proteggere modelli e agenti in produzione

Mentre i fornitori espongono le regole, le imprese chiedono controlli in esecuzione. HiddenLayer ha raccolto 100 milioni di dollari per portare sicurezza sull’AI in esercizio, mentre modelli e agenti entrano in produzione e compaiono budget dedicati. Tre anni fa dominava lo scetticismo: al tempo della Series A da 50 milioni, molti dubitavano che esistessero abbastanza attacchi per un mercato autonomo. Come notava Kyle Wiggers, mancavano esempi pubblici su larga scala contro sistemi di AI [S2].

Lo scenario si è spostato dal “se” al “come”. La priorità è osservare ciò che fanno gli agenti quando operano, insieme agli strumenti e ai componenti che usano. I titoli su agenti compromessi restano rari, ma il rischio operativo in produzione è concreto e spinge investimenti in controlli più capillari [S2].

I numeri segnano la corsa. Gartner stima 2,83 miliardi di dollari di spesa quest’anno in prodotti per mettere in sicurezza gli strumenti di AI, un aumento dell’83% rispetto al 2025. La stima per l’anno prossimo sale a 4,78 miliardi [S2]. La raccolta di HiddenLayer si muove dentro questa domanda: spostare l’attenzione dal dibattito astratto sui rischi al controllo effettivo del runtime [S2].

3) Integrare capacità difensive direttamente nei prodotti e nelle piattaforme

La terza leva entra nei prodotti. DeepMind introduce Gemini 3.8 Flash allo stesso prezzo e con la stessa velocità di 3.7 Flash: 0,75 dollari per milione di token in input e 3,75 dollari per milione di token in output. L’azienda lo posiziona come il “workhorse” della linea, con miglioramenti dichiarati in ingegneria del software, compiti agentici e ragionamento critico multi‑step in domini specializzati [S3].

Accanto arriva 3.8 Flash Cyber, una variante per la sicurezza informatica accessibile solo ai “difensori fidati” tramite il nuovo Fairwind Program. DeepMind la descrive come il suo modello di cybersicurezza più capace [S3]. Il vincolo di accesso introduce un perimetro d’uso esplicito per funzioni sensibili.

Sul fronte enterprise, Palo Alto Networks ha acquisito Console per 500 milioni di dollari in contanti e azioni, secondo due persone a conoscenza dell’accordo [S4]. Console sviluppa agenti di intelligenza artificiale che automatizzano attività di help desk IT e gestiscono richieste di routine; è stata fondata nel 2024. Prima dell’operazione aveva raccolto 29 milioni di dollari (seed da 6,2 milioni guidato da Thrive Capital; Serie A da 23 milioni co‑guidata da DST Global e Thrive). PitchBook indicava una valutazione pre‑acquisizione di 157 milioni. Tra gli investitori compaiono SV Angel e Abstract Ventures. Nikesh Arora, CEO di Palo Alto Networks, aveva partecipato come angel investor. L’azienda ha rifiutato di commentare [S4].

Palo Alto Networks integrerà Console in Cortex, la sua piattaforma per la sicurezza che impiega AI per rilevare e neutralizzare minacce. Secondo l’azienda, le capacità “agentiche” di Console permetteranno ai team di sicurezza di investigare e risolvere alert in linguaggio naturale. In una dichiarazione, Arora ha descritto l’effetto come dare a Cortex “braccia e gambe per offrire risultati di sicurezza” [S4]. È un passo verso l’automazione delle attività di analisi e risposta, inglobata nella piattaforma operativa.

4) Che cosa collega queste mosse: governance, operazioni e mercato

Le tre leve rispondono a esigenze diverse, ma si rafforzano a vicenda. Le regole nei prompt e la loro pubblicazione creano un perimetro dichiarato e verificabile. I controlli in produzione colmano il divario tra policy e realtà, osservando e limitando i comportamenti di modelli e agenti quando lavorano su sistemi e dati vivi. L’integrazione difensiva nei prodotti sposta l’automazione direttamente negli strumenti che i team usano ogni giorno.

Gli attori occupano posizioni distinte su questa mappa. Anthropic lavora sulla trasparenza delle regole e sul loro inserimento nei prompt di sistema [S1]. HiddenLayer attira capitali per strumenti di controllo in produzione, in un mercato che Gartner quantifica in miliardi e in forte crescita anno su anno [S2]. DeepMind propone una variante di modello per la cybersicurezza, con accesso limitato a “difensori fidati” tramite il Fairwind Program, mantenendo al contempo prezzo e velocità del modello generale 3.8 Flash [S3]. Palo Alto Networks porta agenti nel cuore della sua piattaforma Cortex, per investigare e risolvere alert in linguaggio naturale [S4].

Per chi sviluppa e gestisce AI in produzione, il disegno operativo che emerge è concreto:

• normare e rendere tracciabili i comportamenti del modello a monte (prompt e policy pubbliche);
• dotarsi di osservabilità e controlli in esecuzione per agenti e pipeline;
• adottare prodotti che incorporano automazione difensiva nelle fasi di detection e response.

Queste scelte non si escludono. Le aziende che spostano carichi critici su modelli e agenti tendono a combinarle: regole verificabili, strumenti di controllo e piattaforme con capacità agentiche. I fatti indicano che i budget crescono, le policy si formalizzano nei prompt, e i fornitori segmentano l’offerta, anche limitando l’accesso a funzioni sensibili ai soli “difensori fidati” [S1][S2][S3][S4].

La prossima frizione non sarà tra modelli più “capaci” o meno, ma tra trasparenza delle regole, gating delle funzioni sensibili e realtà dei controlli in produzione, con contratti e integrazioni che porteranno queste tre leve sullo stesso cruscotto.