La memoria agentica funziona a dosi, non sempre conviene più memoria

Otto modelli, dal denso 30 miliardi a sistemi proprietari di frontiera, convergono su un punto: la memoria agentica non si accende, si dosa. La resa dipende dalla capacità del modello, non da una ricetta unica¹.

ALTK-Evolve introduce questa logica in modo operativo. L’agente impara dalle proprie traiettorie, distilla linee guida riutilizzabili e le riusa in inferenza. Non aggiorna i pesi. Non richiede annotazioni umane¹.

Nei test, la dose corretta cambia per tier. I modelli con margine di miglioramento performano meglio con il set completo di linee guida. I modelli più deboli guadagnano usando un nucleo essenziale più retrieval per task. I modelli saturi non mostrano benefici misurabili quando si aggiunge memoria¹.

Un caso concreto quantifica il compromesso tra accuratezza e costo: gpt-oss-120b cresce di 16,1 punti percentuali in task completion con un sovraccarico di token del 5%. In quel setting, il retrieval curato risulta insieme l’opzione più precisa e la più economica¹.

Il risultato non è circoscritto a un singolo sistema. La valutazione include otto modelli lungo l’intero spettro, da un 30B denso a modelli proprietari di punta. L’effetto “a dose” emerge in modo sistematico: la capacità del modello guida quanta memoria usare e in quale forma (set completo, nucleo compatto con retrieval, o nessuna memoria aggiuntiva quando non serve)¹.

Anche i vincoli di produzione contano. Il caching del prompt aiuta a tenere basso il costo quando si deve passare al pacchetto completo di linee guida. Il retrieval curato limita i token quando bastano poche regole. Le due leve, combinate, permettono di bilanciare spesa e qualità senza toccare il modello di base¹.

Per chi progetta agenti, la consegna è pratica. Calibrare la memoria sul modello in uso. Scegliere tra linee guida complete o compatte e attivare il retrieval solo se produce un guadagno netto. Evitare interventi “a prescindere” sui modelli saturi: i numeri, in quei casi, non supportano aggiunte di memoria¹.

Il protocollo suggerito è iterativo. Partire con un nucleo minimo sui modelli più deboli. Passare al set completo su modelli con margine. Misurare l’impatto in termini di punti percentuali in task completion e di variazione dei token. Integrare il caching del prompt dove l’uso ripetuto del contesto lo giustifica. Se le metriche non si muovono, fermarsi e ritarare¹.

Questo approccio sposta il baricentro dall’architettura ai dati operativi di contesto. In molti scenari, intervenire su cosa e quanto ricordare costa meno che addestrare di nuovo, e rende di più quando il modello ha ancora spazio per apprendere dalle proprie regole¹.