Hugging Face ابزار TorchTPU را معرفی کرد؛ یک بک‌اند بومی PyTorch که با TPUها مثل هر دستگاه دیگری کار می‌کند. کافی است آن را با یک دستور pip نصب کنید تا بتوانید مدل‌های Transformers یا Diffusers را با تنظیم device_map="tpu" روی TPU بارگذاری کنید. این بسته شامل کرنل‌های Pallas بهینه‌شده برای TPU، پشتیبانی از آموزش توزیع‌شده و یکپارچگی با torch.compile برای افزایش سرعت است. برای اجرای مدل‌های Hugging Face روی TPUها دیگر به Optimum TPU نیازی نیست.
چرا مهم است
توسعه‌دهندگان PyTorch اکنون می‌توانند بدون چارچوب‌های اضافی از TPUهای Google Cloud استفاده کنند؛ این کار آموزش و استنتاج در مقیاس بزرگ را ساده‌تر می‌کند.
