Diogo Almeida lancia Jev, modello che non genera testo ma decisioni

TypeSafe AI ha pubblicato Jev: un transformer che non predice parole. Calcola probabilità su un insieme di scelte fissate dall’utente. Niente testo in uscita, solo decisioni “calibrate”¹.

Diogo Almeida, che ha lavorato su ChatGPT e ha contribuito al reinforcement learning from human feedback (RLHF), spiega perché. “We have lightning in a bottle, and yet it is not useful,” dice. “I’ve been battling that problem since then”¹. Per lui il nodo non è la potenza dei modelli, ma l’obiettivo che si ottimizza.

“La lingua è il problema,” sostiene. “The problem is we are optimizing for human language … We have been super good at human language for four years, but it’s not useful for automation because computers speak a different language”¹. Se l’obiettivo è l’automazione, il testo non basta. Va rimosso dall’anello decisionale.

Il design di Jev segue questa idea. L’utente definisce in anticipo le uscite possibili. Il modello valuta l’input e assegna a ogni opzione una probabilità. Restituisce una decisione calibrata entro quel perimetro¹. Con scelte finite, il sistema non può “allucinare” oltre i confini stabiliti¹.

TypeSafe AI lega a questa architettura due effetti pratici. “Its output tokens are free,” afferma. Gli input restano la metrica principale. L’assenza di generazione linguistica taglia costi e latenza: il sistema è “incredibly cheap and fast”¹.

Cosa cambia, operativamente, rispetto a un LLM? Un LLM massimizza la probabilità della prossima parola e produce sequenze di testo. Jev non genera sequenze. Stima quale sia la scelta corretta in un set finito e restituisce probabilità su quelle scelte. È un modello di decisione, non di linguaggio¹.

La traiettoria personale di Almeida fa da sfondo al progetto. Dopo OpenAI, due anni fa ha fondato TypeSafe AI. Questa settimana la startup ha presentato Jev con l’obiettivo di spostare il focus dall’ottimizzazione per il linguaggio all’automazione di scelte discrete¹.

Il cuore della proposta è chiaro: evitare il testo come interfaccia e limitare l’uscita a decisioni calibrate su opzioni predefinite. La tesi è che i computer “parlano un’altra lingua” e che i sistemi utili all’automazione debbano rifletterlo¹.

Secondo l’articolo, l’approccio ha attirato l’interesse degli sviluppatori, che guardano a modelli centrati su scelte discrete e probabilità invece che sulla generazione di testo¹.

Se i benefici su costi e latenza reggono, la forma “a decisioni” potrebbe ridurre il lavoro di integrazione necessario per controllare gli LLM in compiti operativi: niente parsing del testo, niente prompt per “forzare” formati, meno spazio per uscite fuori specifica. Sarebbe un cambiamento di interfaccia più che di scala, con impatti diretti su come si progettano pipeline di automazione¹.