PrismML porta il suo LLM da 2 miliardi sugli occhiali Qualcomm
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
Al Snapdragon Summit PrismML ha mostrato la versione per smart glasses del 1-bit Bonsai LLM, progettata per girare localmente sui dispositivi Snapdragon AR1 Gen 1.
Qualcomm ha mostrato il 1-bit Bonsai LLM di PrismML in esecuzione su smart glasses basati sulla piattaforma Snapdragon AR1 Gen 1, durante lo Snapdragon Summit1.
PrismML ha creato una versione dei suoi modelli linguistici compatti per occhiali con chip Snapdragon. La versione presentata conta 2 miliardi di parametri ed è tarata su visione e linguaggio. L’uso previsto: chiedere in tempo reale che cosa si sta guardando1.
Il punto di forza di PrismML è la compressione dei modelli. L’azienda afferma di ridurre modelli più grandi di 4 volte, mantenendo quasi tutte le prestazioni sui benchmark standard. In questa dimostrazione, la versione “tiny” gira in locale sugli occhiali mostrati da Qualcomm1.
L’obiettivo dichiarato da PrismML è portare un’AI a pesi aperti sui dispositivi, sfruttando meglio la potenza di calcolo già disponibile. La startup propone questa via come alternativa alla dipendenza dalle promesse di privacy dei laboratori proprietari e dalla loro crescente domanda di calcolo1.
Lo showcase è avvenuto su piattaforma Snapdragon AR1 Gen 1, pensata per smart glasses con funzioni di intelligenza artificiale. Il 1-bit Bonsai LLM, nella versione per occhiali, è stato mostrato come integrazione locale su questo hardware, con focus sulla combinazione tra flusso visivo e linguaggio naturale1.
Il profilo dell’azienda è definito: PrismML è un laboratorio AI fondato da ricercatori del Caltech e ha come advisor Ion Stoica dell’Università della California, Berkeley. In precedenza TechCrunch aveva già riportato le caratteristiche dei modelli compatti della startup e il loro impiego diretto sui dispositivi1.
Il perimetro commerciale resta limitato. Al momento non esistono annunci di smart glasses che eseguano PrismML1.
Il risultato mostrato segna un passo verso l’AI a pesi aperti sui device: un modello da 2 miliardi di parametri, compresso e ottimizzato per visione e linguaggio, in esecuzione locale su una piattaforma per occhiali basata su Snapdragon1.
Se arriveranno prodotti con questo LLM, l’uso suggerito dalla dimostrazione resta chiaro: guardare una scena, fare una domanda su ciò che si vede e ottenere la risposta in tempo reale1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.