Jev e i CDM mettono in crisi il modello che scrive token per token
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
TypeSafe e ScaleDown propongono risposte calibrate e strutturate, promettendo risparmi su compiti chiusi mentre gli LLM restano necessari per testo aperto e ragionamento.
TypeSafe ha aperto l’early access di Jev il 15 settembre 2026. ScaleDown ha presentato i Constrained Decoding Models il 13 ottobre 2026. Entrambi saltano la scrittura token per token. Puntano a risposte secche su input ristretti. Non generano prosa. Tagliano costi e latenza su compiti chiusi, dicono i vendor1.
Un LLM autoregressivo scrive con un ciclo. Legge tutta la sequenza, calcola la distribuzione sul prossimo token, ne campiona uno, e ripete. Dieci token richiedono dieci passaggi. Un JSON con sei campi richiede decine di passaggi. Un modello di ragionamento aggiunge anche token “nascosti” per il thinking. Gli output strutturati non cambiano il ciclo. Lo schema vincola i token ammessi, ma il modello scrive ogni parentesi e ogni virgoletta. L’output “constrained” costa comunque token e tempo1.
Il costo segue la stessa forma. Paghi i token in input e in output, e l’output costa di più. Esempio dalla lista attuale di Anthropic: Claude Haiku 5.5 a 0,10 dollari per milione di token in input e 0,50 in output. Claude Sonnet 5.5 a 2 e 10 dollari. La latenza somma il tempo al primo token con il tempo per token moltiplicato per i token di output1.
ScaleDown propone un’alternativa per gli output strutturati. I CDM Classify, Extract e Summarize “leggono l’input una volta” e “restituiscono l’output strutturato”, con tutti i campi insieme. L’azienda contrappone un’unica lettura a decine di passaggi degli LLM. Promette moltiplicatori di velocità e costo. I modelli hanno già raccolto test indipendenti e critiche1.
Jev sceglie. È un “decision model” di TypeSafe AI, parte della linea “System One”. Dal 15 settembre è in early access. La versione 1.14 è uscita il 14 ottobre. Riceve uno stato, oggi testo e da 1.14 anche immagini. Risponde a quattro tipi di domanda: choice seleziona un’opzione da un insieme, noul stima la probabilità che una frase sì/no sia vera, score colloca l’input su una scala ordinata, box individua un bersaglio in un’immagine. Non restituisce mai prosa o tracce di ragionamento1.
Il come resta opaco. TypeSafe parla di una nuova architettura, di un “parallel sampler” che produce tutte le uscite con una query, e di un addestramento chiamato Reinforcement Learning for Calibrated Decisions. Non c’è un paper. Non ci sono pesi pubblici. Nessuna funzione di ricompensa pubblicata. L’interfaccia è visibile, il motore no1.
Il nome ricorda JEPA. Un post su Medium lo collega all’idea di Joint Embedding Predictive Architecture. Il post di lancio di TypeSafe, la documentazione e la guida di OpenRouter su Jev non citano JEPA. La fonte non ha trovato alcun collegamento primario. La relazione resta non verificata, a parte la lettera J1.
Un LLM “genera”: serve per testo aperto, spiegazioni, contenuti con citazioni, ragionamento multi-step, tool use e input disordinati con esiti non enumerabili. Funziona anche su estrazioni dove conta il giudizio, come “il totale dopo la nota di credito”, non solo “il numero accanto a Total”. Costa e rallenta su domande strette ad alto volume, e non dà probabilità calibrate se non si costruiscono a parte. L’autore continua a usare un LLM con schema per i PDF, e chiede anche la citazione testuale della fonte per verifica umana1.
Jev “sceglie” e i CDM “pescano valori da ciò che gli dai”. Sulle classificazioni e sulle estrazioni a campi chiusi promettono tagli di latenza e costo. Per ogni chiamata si valuta la forma della risposta: generare, scegliere, oppure leggere una volta e compilare i campi1.
Chi vuole vedere Jev in azione trova una risposta reale nel tutorial di OpenRouter, tre domande con una sola chiamata1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Rilettura. Un passaggio toglie i tic della prosa generata da un modello, come i contrasti costruiti e le frasi che annunciano invece di informare, senza toccare fatti e fonti.
- Fedeltà alle fonti. Un passaggio dedicato toglie ogni affermazione che le fonti non sostengono. Valutazione su questo pezzo: 9/10.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale: superato.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica. Questo articolo ha preso 7,8/10.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.