# Google تضيف دعم PyTorch أصليًا لـ vLLM وSGLang على TPU

> تطلق Google خلفيات PyTorch لمحركي الاستدلال vLLM وSGLang، ما يتيح للمطورين تشغيل هذه النماذج على عتاد TPU باستخدام أدوات PyTorch المألوفة.

Oossa · 2026-10-20 · https://oossa.com/ar/google-adds-native-pytorch-support-for-vllm-and-sglang-on-tpu

أعلنت Google عن محركَي استدلال يشغّلان مشروعي vLLM وSGLang مفتوحي المصدر على وحدات TPU، باستخدام خلفية PyTorch أصلية تُسمى TorchTPU. وطُوّر المحركان بالتعاون مع Inferact (vLLM) وRadixArk (SGLang)، ويُستخدمان بالفعل في أعباء عمل إنتاجية لدى شركات مثل Meta. ويتضمنان تحسينات مخصصة لوحدات TPU، مثل نوى Pallas المخصصة وإدارة ذاكرة التخزين المؤقت KV، بهدف تسهيل تقديم الخدمة بزمن استجابة منخفض وعلى نطاق واسع لمستخدمي PyTorch.

## الحقائق

- يمكن لـ vLLM‑TorchTPU تقديم نموذج Kimi K3 ذي 2.8 T معلمة بسرعة تتجاوز 700 رمز في الثانية على وحدة Ironwood TPU.
- يعمل المحركان في بيئات إنتاجية لدى عملاء المعاينة، وسجّلا أدنى تكلفة لكل مليون رمز، بلغت $0.0201.

## لماذا يهم

بات بإمكان مطوري PyTorch نشر استدلال سريع وفعّال من حيث التكلفة للنماذج اللغوية الكبيرة على عتاد TPU من Google، من دون الانتقال إلى JAX.

## المصادر والمراجع

1. [Announcing New vLLM and SGLang Inference Engines on TPU](https://developers.googleblog.com/en/announcing-new-vllm-and-sglang-inference-engines-on-tpu/) – Google for Developers
2. [Google has joined Amazon in attacking Nvidia’s stronghold with AI app developers](https://techcrunch.com/2026/10/20/google-has-joined-amazon-in-attacking-nvidias-stronghold-with-ai-app-developers/) – TechCrunch, 2026-10-20

آخر تحديث: 2026-10-20