Google e Meta aprono TorchTPU, PyTorch nativo per le TPU

Google e Meta hanno pubblicato il codice di TorchTPU, un backend nativo PyTorch per le TPU di Google, alla PyTorch Conference North America 2026 a San Jose. L’annuncio è arrivato durante i keynote del 21 ottobre¹.

TorchTPU sostituisce PyTorch/XLA, il bridge del 2020 basato su lazy tensor che, secondo l’annuncio, “richiedeva modifiche intrusive al codice”¹. L’obiettivo è rendere il porting di un modello un cambio di device: da model.to("cuda") a model.to("tpu")¹. “Con TorchTPU, le TPU si uniscono a GPU e CPU come opzione nativa per PyTorch”, ha scritto Google Cloud nel suo annuncio, cofirmato da Bill Jia, vicepresidente dell’ingegneria per Core ML/AI¹.

Jia ha presentato il keynote “Workload Fungibility in the Agentic Era: Bringing Native PyTorch to Cloud TPUs” insieme a Zongwei Zhou di Meta. Il loro intervento è arrivato dopo due talk che hanno inquadrato la domanda. Mark Collier, direttore esecutivo della PyTorch Foundation, ha detto che l’inferenza ha superato il training come principale carico nei data center, creando “un’incredibile fame di token”¹. Collier ha descritto l’obiettivo della community come software open source per modelli che “run on any chip in any cloud”¹.

Meta, che ha creato PyTorch nel 2016, prevede di spostare carichi LLM su larga scala sulle TPU con TorchTPU. Zhou lo ha detto nei keynote del 21 ottobre¹. Il piano è usare il backend nativo per portare questi carichi su TPU senza interventi invasivi sul codice del modello, nelle intenzioni espresse sul palco e nei materiali dell’annuncio¹.

La differenza con PyTorch/XLA è netta nei termini presentati. XLA introduceva un livello lazy e chiedeva modifiche intrusive alle basi di codice, secondo l’annuncio¹. TorchTPU punta a un’integrazione che riprende i pattern standard di PyTorch. Il cambio previsto nell’API .to() riassume questa direzione: indicare “tpu” dove oggi si indica “cuda”, senza rifattorizzazioni aggiuntive dichiarate nelle comunicazioni ufficiali¹.

Il messaggio di Google Cloud è allineato a quello della community PyTorch descritto da Collier. Rendere le TPU una scelta nativa in PyTorch amplia il ventaglio di opzioni per eseguire modelli e si inserisce nell’idea di farli “girare su qualunque chip in qualunque cloud”, come ha sintetizzato Collier sul palco¹. L’intervento congiunto di Jia e Zhou ha legato l’annuncio tecnico al contesto operativo: crescita dell’inferenza, pressione sui data center, necessità di soluzioni che semplifichino il porting tra dispositivi¹.

Google Cloud ha presentato TorchTPU come il passaggio che porta le TPU sullo stesso piano di CPU e GPU nell’ecosistema PyTorch¹. Da qui discende la promessa concreta riportata nell’annuncio e nei keynote: adottare TPUs in PyTorch con modifiche minime al codice del modello, in continuità con le pratiche esistenti nel framework¹.