# Google ajoute la prise en charge native de PyTorch sur TPU

> Google lance des backends PyTorch pour les moteurs d’inférence vLLM et SGLang, permettant aux développeurs d’exécuter ces modèles sur du matériel TPU avec les outils PyTorch qu’ils connaissent déjà.

Oossa · 2026-10-20 · https://oossa.com/fr/google-adds-native-pytorch-support-for-vllm-and-sglang-on-tpu

Google a annoncé de nouveaux moteurs d’inférence qui exécutent sur TPU les projets open source vLLM et SGLang grâce à un backend PyTorch natif appelé TorchTPU. Développés conjointement avec Inferact (vLLM) et RadixArk (SGLang), ils servent déjà des charges de travail en production chez des entreprises comme Meta. Ils intègrent des optimisations propres aux TPU, notamment des noyaux Pallas personnalisés et la gestion du cache KV, afin de faciliter le déploiement à grande échelle et à faible latence pour les utilisateurs de PyTorch.

## Les faits

- vLLM-TorchTPU peut exécuter un modèle Kimi K3 de 2,8 T paramètres à plus de 700 tokens par seconde sur un TPU Ironwood.
- Les deux moteurs sont utilisés en production par des clients en accès preview et ont affiché le coût par million de tokens le plus bas, à $0.0201.

## Pourquoi c'est important

Les développeurs PyTorch peuvent désormais déployer sur le matériel TPU de Google des inférences rapides et économiques pour les grands modèles de langage, sans passer à JAX.

## Sources et références

1. [Announcing New vLLM and SGLang Inference Engines on TPU](https://developers.googleblog.com/en/announcing-new-vllm-and-sglang-inference-engines-on-tpu/) – Google for Developers
2. [Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers](https://techcrunch.com/2026/10/20/google-has-joined-amazon-in-attacking-nvidias-stronghold-with-ai-app-developers/) – TechCrunch, 2026-10-20

Dernière mise à jour: 2026-10-20