Quando gli agenti escono dal laboratorio: routing multi‑LLM, policy eseguibili e planning operativo

AWS Professional Services dice di aver portato la generazione di Infrastructure as Code da 3–4 settimane per applicazione a pochi minuti su oltre 300 applicazioni. Lo ha fatto con una suite di agenti che copre discovery, scrittura di IaC e operazioni dopo il cutover. Questa è la notizia. La tesi: routing multi‑modello, policy eseguibili in tempo reale e pattern di planning stanno rendendo gli agenti AI componenti operativi, non più soli prototipi.

1) Instradamento multi‑LLM come base tecnica

Ramp ha aperto Router. È un’API che instrada richieste tra modelli diversi e permette di sostituirli senza toccare l’integrazione applicativa. Al lancio espone modelli di OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI e Z.ai. La lista rispecchia i fornitori supportati al momento della comunicazione di Ramp.

L’azienda segnala un uso interno di un router simile da tre anni. Ora offre lo stesso schema verso l’esterno. Obiettivo: scegliere e cambiare modello in base alle esigenze del momento. Il servizio introduce “strategie” di instradamento. Si può dare priorità ai tier di uso flessibile dei provider. Oppure si delega a Router la scelta, guidata da preferenze definite dal cliente.

I vincoli economici contano. Router è accessibile solo negli Stati Uniti. Resta gratuito per il resto del 2026 e include un credito di lancio da 26 dollari. Gli utenti pagano comunque i costi di inferenza dei singoli provider. Ramp non ha comunicato il prezzo per l’anno successivo.

Il punto tecnico è chiaro: separare l’applicazione dal modello. Con più fornitori dietro un’unica API, si può reagire a variazioni di qualità, costo o disponibilità senza rifare l’integrazione. Il routing diventa l’asse portante su cui attaccare policy e orchestrazione.

2) Policy eseguibili: governance incorporata nell’esecuzione

Amazon introduce vincoli temporali nelle policy di Bedrock AgentCore e li applica in linea tramite Dogwood nel Gateway. Le regole autorizzano, bloccano o impongono sequenze tra chiamate agli strumenti. Il monitor nel Gateway valuta ogni passo. La decisione avviene nel flusso di esecuzione, con effetto immediato. Non è un audit a posteriori.

Dogwood è il linguaggio, open source, per esprimere regole formali e verificabili. Questo permette di descrivere vincoli che riflettono processi reali. Amazon indica quattro casi ricorrenti:

• Sequenze obbligatorie: una chiamata può partire solo dopo un’altra.
• Prerequisiti: una condizione deve essere vera prima di procedere.
• Limiti di frequenza: massimo numero di operazioni in un intervallo.
• Effetti cumulativi: decisioni basate sulla storia.

Gli agenti oggi orchestrano passaggi su più strumenti. Senza controlli in linea, rischiano di uscire dai perimetri intern i o regolatori. Con policy eseguibili, la governance diventa parte del runtime. Cambia anche il lavoro di QA: serve verificare che le regole blocchino davvero i percorsi vietati e che non introducano colli di bottiglia. La promessa è chiarezza operativa: regole dichiarative, enforcement immediato.

3) Pattern di planning e automazione che rendono gli agenti utilizzabili in produzione

Non basta instradare e vincolare. Serve anche un modo per pianificare quando la rotta non è visibile in partenza. Matt Pocock pubblica /wayfinder su Latent Space come skill di planning nella “fog of war”. La skill propone passi progressivi e non presume un percorso lineare. Si parte con informazioni incomplete e si affina la rotta man mano che emergono elementi utili.

La genesi è pratica. Pocock lavorava con agenti “AFK” e cercava di predisporre attività eseguibili mentre non era alla tastiera. «Pianificavo un sacco di cose, poi creavo una specifica», racconta. Il metodo accumula lavoro che l’agente può svolgere senza supervisione continua, così il progetto avanza anche in assenza del supervisore umano. La redazione di Latent Space inquadra /wayfinder come prima uscita di una serie di skill pronte all’uso.

Questo è il tassello mancante tra regole e risultati. Con un pattern di planning orientato a passi brevi e verificabili, gli agenti possono sfruttare router e policy. Pianificano, chiamano strumenti in sequenza corretta, rispettano vincoli e riducono il bisogno di intervento umano continuo. È il requisito per scalare.

4) Deployment reali: che cosa cambia per operazioni, costi e responsabilità

L’esempio AWS fissa la barra. Una suite di agenti riduce tempi di sviluppo di IaC da 3–4 settimane a pochi minuti per applicazione, su un portafoglio con oltre 300 applicazioni, secondo tracciamenti interni di progetto. Gli agenti coprono discovery, generazione di IaC e operazioni proattive dopo il cutover. Usano lo Strands Agents SDK e girano su Amazon Bedrock AgentCore. Nello stesso post, Bedrock AgentCore è descritto come una piattaforma per creare, connettere e ottimizzare agenti su larga scala, con qualunque framework o modello.

Messo accanto a Router, il quadro si fa operativo. Router separa l’app dai modelli e consente strategie per preferire tier flessibili o scelte guidate da preferenze del cliente. AgentCore introduce policy temporali con enforcement in linea, espresse in Dogwood. /wayfinder offre un pattern per pianificare con informazioni parziali e produrre lavoro eseguibile senza supervisione continua. La combinazione è coerente: composizione tra scelta del modello, vincoli formali e pianificazione adattiva.

Restano i nodi pratici. Il modello economico non scompare dietro l’astrazione. Con Router, gli utenti continuano a pagare i costi di inferenza dei singoli provider. Ramp non ha ancora comunicato il prezzo per l’anno successivo al 2026. Chi scala su più modelli può leggere routing e policy anche come leve di costo: preferenze per tier flessibili e scelte automatizzate guidate da preferenze del cliente.

Sul fronte operativo, le policy temporali spostano la governance nel runtime. Questo abilita controlli immediati su sequenze, prerequisiti, frequenze ed effetti cumulativi. Ma impone nuove pratiche di testing. Le regole vanno trattate come codice: versionate, verificate, monitorate. L’enforcement “mentre l’agente lavora” riduce sorprese a posteriori, ma richiede osservabilità fine.

Infine c’è l’organizzazione del lavoro. /wayfinder formalizza un modo di spezzare gli obiettivi in compiti che gli agenti possono portare avanti da soli. È il complemento ai casi come quello di AWS, che mostrano automazione end‑to‑end in un dominio specifico, dalla discovery alle operazioni post‑migrazione. Selezione del modello, policy e planning convergono in pipeline ripetibili.

La traiettoria è concreta: router multi‑LLM, policy eseguibili in tempo reale, skill di planning per avanzare nell’incertezza, deployment che comprimono tempi di lavoro su centinaia di applicazioni. Per chi costruisce software e QA, il messaggio è operativo: gli agenti richiedono ora scelte architetturali, controllo formale e pratica di progetto, non solo prompt. La prossima variabile da misurare è come queste tre leve — routing, policy, planning — incidono su qualità del risultato e gestione dei costi quando la scala cresce davvero.