Quando gli agenti decidono: instradamento LLM, policy eseguibili e automazione operativa

AWS Professional Services dice di aver tagliato lo sviluppo di Infrastructure as Code da 3–4 settimane per applicazione a pochi minuti su un portafoglio con oltre 300 applicazioni. Lo ha fatto con una suite di agenti che coprono discovery, generazione dell’IaC e operazioni dopo il cutover. La tesi: decisioni operative che prima prendevamo a mano passano a router, policy eseguibili e agenti. La produttività sale. Il controllo deve seguirla.

1. Trend in poche frasi: decisioni operative spostate sugli agenti

Tre mosse mostrano la direzione. Un router sceglie il modello linguistico in base a strategie dichiarate dal cliente. Un gateway blocca in tempo reale le chiamate degli agenti se non rispettano le regole. Una suite di agenti riduce drasticamente i tempi per l’IaC nelle migrazioni cloud. In parallelo, una skill codifica come pianificare quando la rotta non è ancora chiara. Il filo è netto: spostiamo scelte tattiche dall’umano all’esecuzione automatica. I benefici sono concreti. Le responsabilità cambiano.

2. Router LLM: separare integrazione applicativa e scelta del modello

Ramp ha lanciato Router, un’API che instrada richieste tra più LLM e consente di sostituire i modelli senza toccare l’integrazione applicativa. Il servizio è accessibile solo negli Stati Uniti. Resta gratuito per il resto del 2026. Include un credito di lancio da 26 dollari. Gli utenti pagano i costi di inferenza dei singoli provider. Ramp non ha comunicato il prezzo per l’anno successivo.

Router espone modelli di OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI e Z.ai. La lista rispecchia i fornitori supportati al lancio. Introduce “strategie” di instradamento. Un esempio: preferire i tier di uso flessibile offerti dai provider. Un’altra opzione: lasciare a Router la scelta del modello, guidata da preferenze definite dal cliente.

Qui la decisione non sta più nel codice applicativo. Sta nella policy del router. Cambiare modello diventa un’operazione di configurazione. Il punto chiave è la possibilità di astrarre la scelta del modello dal resto dell’architettura, mantenendo il controllo delle preferenze operative nel perimetro definito dal cliente.

3. Policy eseguibili: governance in linea durante l’esecuzione degli agenti

Amazon introduce vincoli temporali nelle policy di Bedrock AgentCore e applica l’enforcement nel Gateway durante l’azione dell’agente, usando Dogwood. Dogwood è il linguaggio, open source, per esprimere regole di governance formali e verificabili. Un monitor nel Gateway valuta ogni passo. Autorizza, blocca o impone sequenze tra le chiamate agli strumenti. La decisione avviene nel flusso di esecuzione, con effetto immediato. Le policy non si applicano a posteriori.

I vincoli temporali coprono quattro casi ricorrenti: sequenze obbligatorie, prerequisiti, limiti di frequenza, effetti cumulativi basati sulla storia delle chiamate. Questo sposta un altro tipo di decisione. Non è solo quale modello usare. È se un agente può chiamare uno strumento ora, con questi parametri, in questa sequenza. Il controllo non è un audit differito. È un guardrail attivo.

Per chi costruisce agenti, il messaggio è chiaro. La governance utile vive dove si esegue il lavoro, non nei report post‑mortem. Le regole diventano parte del percorso di esecuzione, al pari del codice che orchestra gli strumenti.

4. Agenti pratici: accelerare IaC e pianificare nell’incertezza

AWS Professional Services descrive tre colli di bottiglia nelle migrazioni su larga scala: discovery che richiede settimane per applicazione, scrittura dell’IaC da zero per ogni workload e operazioni post‑migrazione in modalità “firefighting”. Con centinaia di applicazioni e una scadenza fissa di fine anno fiscale, questi passaggi rallentano i programmi. Per affrontarli, ha costruito una suite di agenti che automatizza discovery, generazione dell’IaC e operazioni proattive dopo il cutover. Gli agenti usano lo Strands Agents SDK e girano su Amazon Bedrock AgentCore.

Il dato operativo è netto: da 3–4 settimane per applicazione a pochi minuti, su oltre 300 applicazioni, in base a tracciamenti interni di progetto. Al netto del contesto specifico, la direzione è la stessa del router e delle policy. Più autonomia agli agenti. Più lavoro “in linea”. Meno passaggi manuali tra fasi.

Sul fronte della pianificazione, Matt Pocock rilascia /wayfinder su Latent Space. È una skill per pianificare quando il traguardo non è ancora visibile. Obiettivo: muoversi nella “fog of war”. Il metodo propone passi chiari e progressivi. Non presume un percorso lineare. Si parte con informazioni incomplete. Si affina la rotta man mano che emergono elementi utili.

La spinta nasce da pratica quotidiana. Pocock lavorava con agenti “AFK” e cercava attività eseguibili mentre lui non era alla tastiera. “Pianificavo un sacco di cose, poi creavo una specifica”, racconta. Il metodo punta ad accumulare lavoro che l’agente può svolgere senza supervisione continua, così da far avanzare il progetto anche in assenza del supervisore umano.

5. Cosa serve per governare questa convergenza: osservabilità, regole eseguibili e responsabilità

Quando la selezione del modello vive in un router, il rispetto delle sequenze in un gateway, e l’esecuzione di migrazioni in una suite di agenti, il sistema dipende da decisioni che avvengono al volo. I vantaggi emersi sono specifici: flessibilità nella scelta tra modelli linguistici tramite Router, enforcement in tempo reale delle policy in AgentCore con Dogwood, riduzione significativa dei tempi operativi per l’IaC dichiarata da AWS Professional Services. Ma queste scelte hanno effetti a catena.

Due principi tecnici emergono dalle fonti. Primo: le regole devono essere eseguibili e vicine all’azione. Dogwood nel Gateway di AgentCore mostra un approccio in cui la governance non è un documento, ma codice che decide “permesso” o “bloccato” mentre l’agente lavora. Secondo: l’orchestrazione va disaccoppiata dalla scelta del modello. Router separa l’integrazione applicativa dalla selezione dei LLM, includendo strategie dichiarative che possono guidare l’instradamento.

Su questa base, chi costruisce sistemi deve risolvere due problemi organizzativi. Il primo è l’osservabilità dei passaggi decisionali: se il router seleziona un modello in base a preferenze o il gateway blocca una chiamata per un prerequisito non soddisfatto, serve poter ricostruire il perché. Il secondo è la responsabilità: chi definisce la strategia di instradamento, chi scrive le regole, chi accetta i trade‑off tra rapidità ed enforcement. Sono scelte operative, non decorative.

C’è anche un aspetto di metodo. /wayfinder formalizza una pratica: preparare lavoro che gli agenti possano eseguire senza supervisione continua, accettando che i piani evolvano. È una disciplina utile quando enforcement e instradamento vivono “on path”. Piccoli passi, feedback frequente, possibilità di intervenire con regole chiare quando serve fermare o cambiare rotta.

Il quadro non è uniforme. Router punta alla flessibilità nella scelta tra LLM. AgentCore con Dogwood insiste su regole che vivono nel tempo dell’esecuzione. Gli agenti per IaC mirano a comprimere i tempi operativi su portafogli ampi, secondo i dati interni riportati da AWS Professional Services. /wayfinder propone una grammatica pratica per lavorare nella nebbia. In comune, l’idea che molte decisioni non debbano più bloccare il flusso umano: vengono rappresentate ed eseguite da sistemi che lavorano mentre l’azione scorre.

Se router, gateway e agenti spostano lì le scelte operative, il prossimo vantaggio andrà a chi saprà scrivere regole che vivono nell’esecuzione senza rallentarla, come mostra l’enforcement in tempo reale di AgentCore con Dogwood, e mantenere la libertà di sostituire i modelli senza toccare l’applicazione, come promette Router.