Hugging Face, TPU’ları diğer cihazlar gibi kullanmayı sağlayan yerel bir PyTorch arka ucu olan TorchTPU’yu duyurdu. Tek bir pip komutuyla yükleyebilir, device_map="tpu" ayarını yaparak Transformers veya Diffusers modellerini TPU’da çalıştırabilirsiniz. Paket; TPU’lara göre optimize edilmiş Pallas çekirdekleri, dağıtık eğitim desteği ve ek hız sağlayan torch.compile entegrasyonu içeriyor. Hugging Face modellerini TPU’larda çalıştırmak için artık Optimum TPU gerekmiyor.
Neden önemli
PyTorch geliştiricileri artık ek çerçevelere ihtiyaç duymadan Google Cloud TPU’ları kullanabiliyor; bu da büyük ölçekli eğitim ve çıkarım işlemlerini kolaylaştırıyor.
