Oossa

شرائح Google TPU تشغّل أنظمة الذكاء الاصطناعي لدى Meta

تشغّل Meta أحمال عمل الذكاء الاصطناعي على شرائح Google المصممة خصيصًا، عبر نسخ متوافقة مع PyTorch من محركَي استدلال. ولم يكشف الإعلان تفاصيل كثيرة عن حجم الاستخدام أو توافر هذه النسخ.

بقلم نشرته Oossa: 2 دقائق قراءة

رسم توضيحي من Oossa

أصبحت شرائح Google المخصصة للذكاء الاصطناعي، المعروفة باسم وحدات معالجة الموتر (TPU)، تشغّل أحمال عمل للذكاء الاصطناعي في بيئة الإنتاج لدى Meta، وفقًا لإعلان على مدونة Google للمطورين، نقل عنه موقع Tom’s Hardware. ويعتمد هذا الإعداد على نسخة متوافقة مع PyTorch من SGLang، وهو برنامج يُستخدم لتشغيل نماذج الذكاء الاصطناعي وتوليد الردود. كما أعلنت Google عن نسخة متوافقة مع PyTorch من vLLM، وهو محرك استدلال آخر واسع الاستخدام.

يتيح هذا التغيير لـ Meta استخدام شرائح Google مع PyTorch، إطار عمل الذكاء الاصطناعي الذي طورته Meta، بدلًا من الاعتماد على إطار JAX من Google كما كان الحال سابقًا. وتقول Google إن النسخ الجديدة تتيح للمطورين استخدام وحدات TPU من دون الحاجة إلى إعادة كتابة برامجهم في معظم الحالات. ويذكر عنوان المقال أيضًا أن Google باعت وحدات TPU لعملاء خارجيين للمرة الأولى، لكن التقرير المقدم لا يحدد هؤلاء العملاء أو يقدم تفاصيل عن المبيعات.

مسار يتجاوز JAX

تكتسب هذه الصلة البرمجية أهميتها لأن الشريحة لا تفيد المطورين إلا إذا كانت أدواتهم قادرة على الاستفادة منها. في السابق، كان SGLang وvLLM يعملان على وحدات TPU من Google عبر JAX. أما النسخ المتوافقة مع PyTorch فتجعل هذه الشرائح خيارًا للفرق التي تستخدم PyTorch بالفعل، وقد تقلل الجهد اللازم لنقل أحمال عمل الذكاء الاصطناعي إلى عتاد TPU.

وتقول Google إن نسخة vLLM مفتوحة المصدر. ولا يوضح التقرير ما إذا كانت نسخة SGLang تخضع لشروط الترخيص أو الإتاحة نفسها، ولا يشرح كيفية حصول المطورين على أي من النسختين. كذلك لا يقدم أرقامًا عن عدد وحدات TPU التي تستخدمها Meta، أو النماذج التي تشغّلها، أو أداء هذا الإعداد.

ما الذي سيتغير للمستخدمين؟

بالنسبة إلى Meta، يتمثل التغيير المؤكد في توفر طريقة أخرى لتشغيل أحمال عمل الذكاء الاصطناعي في مراكز بياناتها. وقد يمنح ذلك مهندسيها خيارات أوسع من العتاد، لكن التقرير لا يقدم دليلًا على حدوث تغيير في سرعة منتجات Meta أو جودتها أو توافرها للمستخدمين. كما لا يوضح ما إذا كان نشر Meta يقتصر على اختبار أم يشكل توسعًا أوسع، باستثناء تأكيده أن الاستخدام في بيئة الإنتاج.

لماذا يهم

بات بإمكان مهندسي الذكاء الاصطناعي في Meta استخدام وحدات TPU من Google مع نسخ متوافقة مع PyTorch من SGLang وvLLM، بدلًا من الاعتماد على JAX لتشغيل هذين المحركين. وهذا يضيف خيارًا عتاديًا لـ Meta، لكن المصدر لا يبين ما إذا كان مستخدمو منتجاتها سيلاحظون أي اختلاف في السرعة أو الميزات.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.