PrismML rilascia Bonsai 2 27B: Qwen3.8 27B compresso in 5,9 GB
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
La startup sostiene una riduzione di memoria di circa 9–10×, sufficiente a far girare modelli di ragionamento su PC e forse su smartphone di fascia alta.
Giovedì PrismML ha presentato Bonsai 2 27B, una versione compressa di Qwen3.8 27B di Alibaba: pesa 5,9 GB e riduce l’impronta di memoria di 9–10 volte rispetto all’originale1. Secondo TechCrunch, il formato è abbastanza piccolo per un PC e, forse, per uno smartphone di fascia alta1.
L’obiettivo dichiarato è netto: portare modelli di ragionamento su dispositivi personali, non solo nel cloud1. Bonsai 2 27B è l’ultimo di una serie che segue questa traiettoria1. La soglia di 5,9 GB fornisce un vincolo operativo chiaro per chi sviluppa: esecuzione locale su computer e, in prospettiva, su alcuni telefoni1.
PrismML ha chiuso finora un seed da 22,25 milioni di dollari1. La società nasce da un gruppo di ricercatori del Caltech ed è guidata da Babak Hassibi, professore al Caltech ed esperto di tecnologie di compressione1. Tra gli advisor figura Ion Stoica, cofondatore di Databricks e direttore dello Sky Computing Lab di Berkeley1.
Sul fronte industriale, TechCrunch cita voci di contatti con Apple. Il CEO di PrismML ha rifiutato di commentare1.
Il messaggio tecnico è essenziale: ridurre drasticamente la memoria senza sacrificare il ragionamento, così da spostare l’inferenza dove la latenza è più bassa e la privacy più controllabile, cioè sui dispositivi dell’utente1. La riduzione di 9–10 volte fornisce un’unità di misura immediata del guadagno in impronta1.
Per gli sviluppatori, il numero da tenere in mente è uno: 5,9 GB. Questo tetto apre casi d’uso locali oggi limitati da vincoli di RAM, e rende più praticabile il test su macchine personali senza ricorrere al cloud1. Per gli utenti, significa la possibilità di usare modelli di ragionamento avanzati offline su hardware già disponibile, entro i limiti indicati da TechCrunch1.
La composizione del team aiuta a leggere l’ambizione. Hassibi porta competenze accademiche sulla compressione; Stoica ha un profilo di sistema e piattaforme; l’insieme punta a un trasferimento ordinato dal laboratorio all’industria1. TechCrunch sottolinea il potenziale impatto industriale del lavoro in corso1.
Resta una domanda pratica che guiderà i prossimi mesi: quali applicazioni trarranno subito beneficio da un modello di ragionamento che entra in 5,9 GB, e quali invece resteranno ancorate al cloud per vincoli di performance o di integrazione? La risposta definirà non un nuovo record di scala, ma dove i modelli potranno effettivamente girare: meno data center, più scrivanie e tasche, se il perimetro di memoria resta sotto i 6 GB1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.