Oossa

Prime Intellect تضيف دعم التدريب إلى نوى Mega MoE

تقول Prime Intellect إن نواها المدمجة أسرع حتى 3.11× من تنفيذ PyTorch أساسي، وترفع معدل إنجاز التدريب 34% في اختباراتها.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أضافت Prime Intellect نواةً تتداخل مع مرحلة الانتشار العكسي إلى نظام Mega MoE من DeepSeek، ما يتيح استخدامه لتدريب نماذج مزيج الخبراء. وتقول الشركة إن نواها كانت أسرع حتى 3.11× من تنفيذ PyTorch الافتراضي، فيما كان التدريب من البداية إلى النهاية في Prime-RL أسرع حتى 1.34× من خط الأساس لديها.

أُجريت اختبارات التدريب من البداية إلى النهاية باستخدام وحدات معالجة الرسومات H200 ونماذج Qwen3 ضمن إعدادات من أربع عقد و16 عقدة. ويعتمد الدعم على نوع وحدة معالجة الرسومات: إذ تدعم النوى تنسيق bfloat16، فيما تقتصر بعض تنسيقات FP8 على وحدات Hopper أو Blackwell.

لماذا يهم

قد تساعد هذه النوى الفرق التي تدرّب نماذج MoE على وحدات Hopper أو Blackwell المدعومة على تقليل وقت التدريب، لكن مكاسب السرعة المعلنة مستندة إلى اختبارات Prime Intellect نفسها، وقد لا تنطبق على إعدادات أخرى.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.