Oossa

SGLang 0.5.22 يسرّع نماذج جديدة ويدعم أجهزة Mac بمعالجات Apple Silicon

يأتي محرك الاستدلال مفتوح المصدر بالإصدار 0.5.22، مع تحسين معدل المعالجة لعدة نماذج وإضافة دعم أصلي لأجهزة Mac.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع SGLang الإصدار 0.5.22. ويصل هذا الإصدار إلى سرعة أعلى بما يصل إلى 2.3× عند تشغيل DeepSeek‑V4.1 على وحدات معالجة الرسوميات NVIDIA H200، كما يضيف دعم AMD MI350X/MI355X بمعدل معالجة يصل إلى 1.9×. وأُضيفت نماذج جديدة، منها EmbeddingGemma 2 وKandinsky 6. كذلك أصبح بإمكان المحرك العمل على أجهزة Mac المزودة بمعالجات Apple Silicon، باستخدام إصدار PyTorch القياسي. ويتطلب التحديث Python 3.11 أو إصدارًا أحدث.

لماذا يهم

يمكن للمطورين تشغيل نماذج LLM أكبر بسرعة أعلى على مزيد من الأجهزة، بما فيها أجهزة Mac، من دون شراء خوادم جديدة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.