Routing, fine-tuning e contratti: come si governano costi e failure negli agenti AI

Revolut ha spostato circa 2.000 sviluppatori su GLM eseguito sui propri server e ha ridotto la spesa d’inferenza del codice di circa il 90% in meno di un anno. David Abitbol lo ha raccontato all’AI Engineer di New York, con i numeri riportati da The Register il 3 novembre⁵. La scelta mette a fuoco tre leve operative: architettura e routing, tuning mirato, contratti verificabili tra agenti.

Router MoE: costo, attivazioni e buchi informativi

Nei Mixture-of-Experts i router decidono quanti esperti attivare per token e con quali regole. Cambiano il conto e la prevedibilità del carico. Le varianti pubbliche seguono strade opposte.

• DeepSeek-V4-Pro alza a 384 gli esperti routati, seleziona top-6 con scoring sqrtsoftplus. Nelle prime tre layer usa hash routing, una mappa fissa token-esperto. DeepSeek-V3 teneva top-8 con sigmoid e un esperto shared sempre attivo².
• I Qwen3 originali dichiarano 128 esperti e instradano ogni token a 8, senza shared, con bilanciamento su batch globale. Qwen3.6-35B-A3B passa a 256 esperti, top-8 più 1 shared in model card².
• Llama 4 Maverick alterna layer densi e MoE. Nei layer MoE manda ogni token a 1 esperto shared e a 1 su 128 routati, un top-1 in stile Switch Transformer. La scheda parla di 17 miliardi di parametri attivi su 400 miliardi totali. La config omette i dettagli su gating e bilanciamento, come accade anche per gpt-oss².
• gpt-oss-120b usa un router lineare su 128 esperti e tiene i migliori 4. I pesi MoE arrivano in MXFP4. Così il modello, 117 miliardi, entra su una GPU da 80 GB².

Le leve concrete si vedono: numero di esperti, top-k per token, presenza di uno shared, routing iniziale a hash, formato dei pesi. Determinano quanta parte del modello si attiva per token e dove si concentra il calcolo. Le omissioni nelle config, in particolare su gating e bilanciamento, lasciano zone cieche nelle stime di costo e nei picchi sotto carico². Per chi orchestra agenti, la visibilità sul router è un requisito di esercizio.

Fine-tuning denso: controllo del comportamento senza cambiare architettura

Nous Research affronta un problema diverso: il comportamento indesiderato su prompt sensibili. Con Arete-27B riduce le risposte con inquadramento statale cinese dal 22% allo 0,9% su 803 prompt, senza modifiche architetturali, senza RL, senza preference optimization³. La base è Qwen3.8-27B, un modello denso da 27 miliardi di parametri con contesto 64k. La licenza resta Apache 2.0, come per il modello base³.

Il run è documentato: 52,8 milioni di token, 2 epoche, 1.202 step, batch 48. Ottimizzatore AdamW, learning rate massimo 1e-5, tensor parallel 4. Aggiornano tutti i pesi del language model. L’encoder visivo resta congelato perché i dati sono solo testuali. Disabilitano la testa di multi-token prediction. Inkling di Thinking Machines è il teacher. Pesi, set di valutazione e dati di training sono pubblici³.

Qui conta la tracciabilità. Dataset mirato, iperparametri espliciti, misura ex post. Così si isola il cambiamento e lo si attribuisce a un run specifico. In produzione questo riduce ambiguità nelle analisi di regressione.

Contratti, validazione e test: come prevenire failure a catena

Il 24 febbraio 2026 GitHub ha pubblicato 15 pattern per sistemi multi-agente. Indicano ruoli chiari, formati prevedibili, contratti espliciti tra agenti. Cambiare il nome di un campo può rompere l’intera catena. Formattazioni incoerenti impediscono la validazione. JSON serve solo con schema e regole condivise⁴.

La sintesi collega i pattern a protocolli già usati. Chiede output espliciti a ogni step e richiama strumenti di verifica e schemi per controllare richieste e risposte. Vincolare gli agenti a strutture note consente ispezione, test e debug nei flussi a più step. Altrimenti i fallimenti si propagano⁴.

Skill Inspector applica questa disciplina alle SKILL.md in formato agentskills.io. Valida i file come un linter. Applica le regole della specifica, segnala violazioni con rule ID e severità FAIL o WARN. Controlla formato e lunghezza del nome, campi obbligatori, limiti sulla descrizione. Avvisa se il body supera soglie previste o se compaiono campi frontmatter sconosciuti¹.

La verifica si estende al pacchetto. Con l’opzione --base-dir il tool risolve scripts, references e assets. Avvisa se un file referenziato non esiste o è vuoto. Blocca path traversal con ../¹. La sezione token economics anticipa il conto: footprint del catalogo, body di attivazione, picco di contesto se l’agente legge ogni reference. Vedi il costo in token prima della produzione. Il tool profila e genera test, con CLI e interfaccia web¹.

Schema, linter, risoluzione del pacchetto e stima dei token rendono i flussi ripetibili e misurabili. È la differenza tra scoprire un bug a runtime e intercettarlo in pre-commit.

Il caso Revolut: modello in casa e bolletta sotto controllo

Il percorso parte da strumenti commerciali. Revolut usa prima Gemini, poi Claude Code, imponendo un budget a ogni sviluppatore. Abitbol cita casi da 1.000 a 10.000 dollari al mese a testa, con benefici poco visibili. L’azienda toglie il tetto ai token e internalizza il calcolo. Ad aprile 2026 ospita GLM-5.1, poi GLM-5.3. Cerca una tariffa piatta, senza sorprese a fine mese. The Register riporta una riduzione della spesa per l’inferenza del codice di circa il 90% in meno di un anno⁵.

Il legame con le leve tecniche è diretto. Un router poco documentato complica le previsioni sui picchi. Un fine-tuning non tracciato rende opaco un cambiamento di comportamento. Un contratto non vincolato a schema rompe una catena per un campo rinominato. Revolut massimizza ciò che controlla: modello sul proprio hardware, uso senza limiti artificiali, contabilità semplice⁵.

Implicazioni operative per team AI e software

Tre assi da governare in modo coordinato:

• Architettura e routing. Conoscere numero di esperti, top-k, eventuale shared, routing a hash e, quando disponibili, i dettagli di gating e bilanciamento. Llama 4 Maverick e gpt-oss omettono parti della config. L’assenza di questi dati pesa su diagnosi e pianificazione della capacità².
• Fine-tuning denso e misurabile. Arete-27B mostra un calo dal 22% allo 0,9% su 803 prompt con una procedura supervisionata, pesi e dati pubblici, senza cambiare architettura³.
• Orchestrazione verificabile. Pattern con contratti espliciti e JSON con schema, più un linter per le skill che risolve il pacchetto, previene path traversal e calcola la token economics prima del deploy^4,1.

Nelle fonti aperte emergono discipline ispezionabili: router dichiarati o circoscritti, tuning con metriche e dati pubblici, contratti con strumenti di verifica. DeepSeek e Qwen presentano scelte diverse nel routing². Nous pubblica dettagli di addestramento e dataset per collegare causa ed effetto³. GitHub e Skill Inspector portano schema e linter nel mondo degli agenti^4,1. Revolut chiude il cerchio con una decisione economica sostenuta da controllo tecnico dell’infrastruttura⁵.

Un agente resta sotto controllo quando queste tre leve si muovono insieme: il router indirizza il calcolo, il tuning disciplina il comportamento, i contratti e i test rendono riproducibili i flussi. Qui si decide se il costo resta prevedibile e se un cambio di campo in un JSON è solo un diff, non un incidente.