Oossa

TurboMamba يسرّع التدريب والاستدلال ويحسّن التنبؤ

تقلّل بنية TurboMamba الجديدة خسارة التنبؤ، وتعمل بسرعة تصل إلى 6 أضعاف مقارنةً بنماذج Mamba المماثلة.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

قدّم باحثون بقيادة Hanxin Zhang تصميمًا لنموذج لغوي أطلقوا عليه TurboMamba، يجمع بين كتلة Mamba‑3 عامة ومحوّل صغير لكل كتلة من الرموز. ويضيف هذا المزيج ثلاثة تحسينات بسيطة: إتاحة الوصول المباشر إلى آخر رمز في الكتلة السابقة، وتصحيح طفيف للدرجات، ومزج متعلّم لترددات الرموز الحديثة. وأظهرت الاختبارات على مجموعة البيانات العامة FineWeb‑Edu أن TurboMamba يتفوّق على اثني عشر نموذجًا مرجعيًا، منها محوّلات قياسية وإصدارات من Mamba‑3، من حيث السرعة والدقة معًا.

لماذا يهم

يستطيع الباحثون تدريب النماذج اللغوية وتشغيلها بسرعة أكبر وبتكلفة أقل، ما يخفض عتبة التكلفة أمام مشاريع الذكاء الاصطناعي الجديدة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.