# Google e Meta lanciano TorchTPU per usare PyTorch sui TPU

> Alla PyTorch Conference 2026, le due aziende hanno reso open source TorchTPU: basta sostituire .to('cuda') con .to('tpu') per eseguire i modelli sui TPU di Google Cloud.

Oossa · 2026-10-25 · https://oossa.com/it/google-and-meta-release-torchtpu-for-native-pytorch-on-tpus

Google e Meta hanno annunciato TorchTPU alla PyTorch Conference North America 2026, a San Jose. Il nuovo backend consente di eseguire codice PyTorch sulle Tensor Processing Unit di Google modificando una sola riga per cambiare dispositivo, come già avviene passando da CPU a GPU. Il progetto è completamente open source ed è disponibile da oggi su GitHub.

TorchTPU sostituisce il precedente ponte PyTorch/XLA, che richiedeva modifiche invasive al codice e comportava lunghi tempi di compilazione. Integrandosi direttamente con il dispatcher di basso livello di PyTorch, TorchTPU è compatibile fin da subito con i modelli Hugging Face, i motori di inferenza vLLM e SGLang e lo stack di training TorchTitan. La versione comprende quattro repository: TorchTPU, vLLM‑TorchTPU, SGLang‑TorchTPU e TorchTitan.

Google ha mostrato una scalabilità quasi lineare fino a 8,192 chip TPU v7x. Nel benchmark, un modello mixture-of-experts Qwen‑3 da 235 miliardi di parametri ha utilizzato il 28 % della capacità in FLOPs dei chip. L’azienda ha inoltre presentato in anteprima una suite di agenti TPU in grado di automatizzare l’ottimizzazione delle prestazioni, precisando però che il semplice cambio di dispositivo è solo un punto di partenza: per raggiungere la massima velocità servono ulteriori modifiche a forme dei tensori e sharding.

## Perché TorchTPU arriva al momento giusto

I carichi di lavoro di inferenza rappresentano ormai la maggior parte dei calcoli nei data center, e molti servizi basati su modelli linguistici di grandi dimensioni cercano hardware più economico e veloce. I TPU sono noti per l’elevata capacità di elaborazione e i consumi energetici ridotti, ma finora erano difficili da usare con PyTorch. TorchTPU abbassa questa barriera e permette agli sviluppatori di mantenere un’unica base di codice mentre sperimentano con cluster TPU nel cloud.

Il team di ingegneria di Meta ha dichiarato di voler trasferire sui TPU l’addestramento degli LLM su scala più ampia, citando la necessità di «prestazioni, affidabilità e manutenibilità». Essendo open source, il backend può essere adottato anche da altri provider cloud, riducendo il vincolo a un singolo fornitore per i team che già usano PyTorch.

## I fatti

- TorchTPU è stato annunciato il 21 ottobre 2026 alla PyTorch Conference North America di San Jose.
- Il backend permette agli sviluppatori di sostituire .to('cuda') con .to('tpu') per eseguire modelli sui TPU di Google Cloud.
- Google ha dimostrato la scalabilità fino a 8,192 chip TPU v7x con un modello MoE Qwen‑3 da 235B, utilizzando il 28 % dei FLOPs.
- Sono stati rilasciati quattro repository open source: TorchTPU, vLLM‑TorchTPU, SGLang‑TorchTPU e TorchTitan.
- Meta intende trasferire sui TPU carichi di lavoro di training degli LLM su scala più ampia, secondo l’ingegnere software Zongwei Zhou.

## Perché conta

Per i team di data science, TorchTPU consente di provare l’accelerazione TPU senza riscrivere il codice, con la possibilità di ridurre i costi cloud per i modelli di grandi dimensioni. Per ottenere le prestazioni ottimali occorre però intervenire su forme dei modelli e sharding: i budget dovrebbero quindi prevedere anche tempo di lavoro tecnico per l’ottimizzazione.

## Fonti e riferimenti

1. [PyTorch Conference 2026: Google and Meta Open-Source TorchTPU for Native PyTorch on TPUs](https://www.infoq.com/news/2026/10/google-meta-torchtpu/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=AI%2C+ML+%26+Data+Engineering) – InfoQ, 2026-10-25
2. [Introducing TorchTPU](https://pytorch.org/blog/introducing-torchtpu/) – PyTorch

Ultimo aggiornamento: 2026-10-25