گوگل و متا TorchTPU را برای اجرای بومی PyTorch روی TPU عرضه کردند

این دو شرکت در کنفرانس PyTorch 2026، TorchTPU را متن‌باز کردند؛ ابزاری که به توسعه‌دهندگان اجازه می‌دهد .to('cuda') را با .to('tpu') جایگزین کنند و مدل‌ها را روی TPUهای Google Cloud اجرا کنند.

نویسنده: Oossaمنتشرشده توسط Oossa: ۳ آبان ۱۴۰۵ ساعت ۱۸:۱۰ UTC1 دقیقه مطالعه

2 منبع ↓

به‌طور خلاصه

TorchTPU در 21 اکتبر 2026 در کنفرانس PyTorch آمریکای شمالی در سن‌خوزه معرفی شد.
این بک‌اند به توسعه‌دهندگان اجازه می‌دهد .to('cuda') را با .to('tpu') جایگزین کنند و مدل‌ها را روی TPUهای Google Cloud اجرا کنند.
گوگل مقیاس‌پذیری تا 8,192 تراشه TPU v7x را با مدل MoE مدل Qwen‑3 235B به نمایش گذاشت؛ این مدل از 28 ٪ ظرفیت FLOPs استفاده کرد.
چهار مخزن متن‌باز عرضه شدند: TorchTPU، vLLM‑TorchTPU، SGLang‑TorchTPU و TorchTitan.
به‌گفته زونگ‌وی ژو، مهندس نرم‌افزار، متا قصد دارد بارهای کاری آموزش مدل‌های زبانی بزرگ در مقیاس بزرگ‌تر را به TPUها منتقل کند.

گوگل و متا در کنفرانس PyTorch آمریکای شمالی 2026 در سن‌خوزه از TorchTPU رونمایی کردند. این بک‌اند به کد PyTorch امکان می‌دهد تنها با تغییر یک خط برای انتخاب دستگاه، روی واحدهای پردازش تنسور گوگل اجرا شود؛ کاری شبیه جابه‌جایی میان CPU و GPU. این پروژه کاملاً متن‌باز است و از امروز در GitHub در دسترس قرار دارد.

TorchTPU جایگزین رابط قدیمی PyTorch/XLA شده است؛ رابطی که به تغییرات گسترده در کد نیاز داشت و زمان کامپایل طولانی‌اش دردسرساز بود. TorchTPU با یکپارچگی مستقیم با توزیع‌کننده سطح پایین PyTorch، بدون نیاز به تنظیمات ویژه با مدل‌های Hugging Face، موتورهای استنتاج vLLM و SGLang و پشته آموزشی TorchTitan کار می‌کند. این عرضه شامل چهار مخزن است: TorchTPU، vLLM‑TorchTPU، SGLang‑TorchTPU و TorchTitan.

گوگل مقیاس‌پذیری تقریباً خطی را تا 8,192 تراشه TPU v7x به نمایش گذاشت. در آزمون این شرکت، یک مدل ترکیبیِ خبره Qwen‑3 با 235 میلیارد پارامتر از 28 ٪ ظرفیت FLOPs تراشه‌ها استفاده کرد. گوگل همچنین مجموعه‌ای از عامل‌های TPU را پیش‌نمایش کرد که می‌توانند تنظیم عملکرد را خودکار کنند؛ بااین‌حال، این شرکت می‌گوید تغییر ساده دستگاه فقط نقطه شروع است و برای رسیدن به حداکثر سرعت، تنظیمات بیشتری در ابعاد و شاردینگ لازم است.

چرا TorchTPU در این مقطع اهمیت دارد

بارهای کاری استنتاج اکنون بخش عمده توان پردازشی مراکز داده را به خود اختصاص داده‌اند و بسیاری از سرویس‌های مدل‌های زبانی بزرگ به‌دنبال سخت‌افزاری ارزان‌تر و سریع‌تر هستند. TPUها به توان عملیاتی بالا و مصرف انرژی کمتر معروف‌اند، اما تا پیش از این دسترسی به آن‌ها از طریق PyTorch دشوار بود. TorchTPU این مانع را کاهش می‌دهد و به توسعه‌دهندگان اجازه می‌دهد یک کدبیس واحد را حفظ کنند و هم‌زمان، کار با خوشه‌های TPU در فضای ابری را بیازمایند.

تیم مهندسی متا گفت قصد دارد آموزش مدل‌های زبانی بزرگ در مقیاس بزرگ‌تر را به TPUها منتقل کند و دلیل این تصمیم را نیاز به «عملکرد، قابلیت اطمینان و نگهداشت‌پذیری» دانست. متن‌باز بودن این ابزار همچنین به دیگر ارائه‌دهندگان خدمات ابری امکان می‌دهد همین بک‌اند را به‌کار بگیرند و وابستگی تیم‌هایی را که از پیش از PyTorch استفاده می‌کنند به یک فروشنده کاهش دهند.

چرا مهم است

برای تیم‌های علم داده، TorchTPU یعنی می‌توانند بدون بازنویسی کد، شتاب‌دهی TPU را آزمایش کنند و شاید هزینه ابری اجرای مدل‌های بزرگ را کاهش دهند. بااین‌حال، رسیدن به حداکثر سرعت همچنان به تنظیم ابعاد مدل و شاردینگ نیاز دارد؛ بنابراین باید زمان مهندسی برای بهینه‌سازی عملکرد را هم در نظر گرفت.