Hugging Face a annoncé TorchTPU, un backend PyTorch natif qui permet d’utiliser les TPU comme n’importe quel autre appareil. Installez-le avec une seule commande pip, puis chargez des modèles Transformers ou Diffusers sur un TPU en définissant device_map="tpu". Le paquet comprend des noyaux Pallas optimisés pour les TPU, la prise en charge de l’entraînement distribué et l’intégration de torch.compile pour accélérer encore les opérations. Optimum TPU n’est désormais plus nécessaire pour utiliser les modèles Hugging Face sur les TPU.
Pourquoi c'est important
Les développeurs PyTorch peuvent désormais utiliser les TPU Google Cloud sans framework supplémentaire, ce qui simplifie l’entraînement et l’inférence à grande échelle.
