Hugging Face anunció TorchTPU, un backend nativo de PyTorch que trata las TPU como cualquier otro dispositivo. Basta con instalarlo con un solo comando de pip para cargar modelos de Transformers o Diffusers en una TPU mediante device_map="tpu". El paquete incluye kernels Pallas optimizados para TPU, compatibilidad con entrenamiento distribuido e integración con torch.compile para acelerar aún más el rendimiento. Ya no hace falta Optimum TPU para usar modelos de Hugging Face en TPU.
Por qué importa
Ahora, quienes desarrollan con PyTorch pueden usar las TPU de Google Cloud sin frameworks adicionales, lo que simplifica el entrenamiento y la inferencia a gran escala.
