Google apre ML Drift, motore GPU open source per inferenza on‑device
Testo scritto con l’intelligenza artificiale a partire da una fonte citata, senza revisione umana prima della pubblicazione.
ML Drift astrae API e hardware diversi (OpenGL ES, OpenCL, Metal, WebGPU) e si propone come base accelerante per LiteRT, sotto licenza Apache 2.0.
Google rende open source ML Drift, il motore GPU che alimenta LiteRT, con licenza Apache 2.0. Il progetto mira all’inferenza on‑device multipiattaforma, con portabilità e prestazioni come obiettivi centrali1.
ML Drift astrae le differenze tra hardware e API a basso livello. L’idea: un’unica base per eseguire modelli su GPU diverse, senza riscrivere il codice per ogni piattaforma1. Tra le API supportate compaiono OpenGL ES, OpenCL, Metal e WebGPU1.
Google sintetizza così il target: “stabilità per il ML tradizionale e picchi di prestazioni per la generative AI più avanzata”1. La promessa riguarda sia pipeline classiche sia modelli generativi, su dispositivi eterogenei1.
Per chi sviluppa su edge device, l’eterogeneità è la norma: architetture GPU, driver e versioni di API cambiano da prodotto a prodotto. ML Drift nasce per attraversare questo panorama con una base comune, riducendo la dipendenza da dettagli di implementazione e dall’hardware di destinazione1.
Il codice aperto consente di costruire runtime di inferenza e grafici personalizzati a partire dal motore GPU. Google indica casi d’uso in visione, audio, stima della profondità e generative AI. L’obiettivo è dare agli sviluppatori un componente riutilizzabile su cui adattare i runtime alle esigenze specifiche di ciascuna applicazione1.
Nel posizionamento tecnico, ML Drift si propone come nuovo riferimento rispetto al TFLite GPU delegate legacy. Google parla di “diversi miglioramenti tecnici” ma non entra nei dettagli. La direzione è chiara: base più stabile per carichi tradizionali, più performante per i generativi, mantenendo l’agnosticità rispetto alle API sottostanti1.
Il cuore del messaggio sta nell’ampiezza della copertura: stesso motore, API diverse, dispositivi diversi. OpenGL ES, OpenCL, Metal e WebGPU diventano bersagli raggiungibili senza cambiare architettura dell’applicazione. Questo approccio punta a ridurre la frammentazione che tipicamente complica la distribuzione di modelli su parchi hardware misti1.
Con l’apertura del codice, ML Drift passa da componente interno a blocco costruttivo per terze parti. La verifica adesso si sposta sul campo: quanto la comunità riuscirà a sfruttare un singolo motore per portare gli stessi carichi su API differenti, senza rincorrere driver e varianti di GPU, dirà se l’obiettivo di portabilità con prestazioni reggerà nella pratica1.
Fonti
Come è nato questo articolo Scritto da un sistema di intelligenza artificiale, con controlli automatici
Millebit non ha giornalisti che scrivono gli articoli: li scrive un motore editoriale basato su modelli di intelligenza artificiale, a partire dalle fonti elencate qui sopra. Prima di uscire, ogni testo passa questi controlli:
- Fedeltà alle fonti. Un secondo passaggio toglie ogni affermazione che le fonti non sostengono. Valutazione su questo pezzo: 9,5/10.
- Anti-cliché. Un filtro scarta frasi fatte, enfasi e tic della prosa artificiale: superato.
- Giudizio editoriale. Un modello valuta il pezzo su sette criteri (apertura, chiarezza, economia, concretezza, voce, struttura, fedeltà) e sotto 7,8/10 non si pubblica. Questo articolo ha preso 8,0/10 dopo 1 revisione.
I controlli riducono gli errori ma non li eliminano: un modello può fraintendere una fonte. Per le decisioni importanti, risali alla fonte originale. Se trovi un errore, segnalacelo.
Per vedere Millebit nelle notizie principali di Google, aggiungilo alle tue fonti preferite. Oppure segui l’edizione di oggi, il feed RSS o La Sintesi.