Oossa

تحديث llama.cpp يتجاوز طبقة LM head عند استخراج التضمينات المجمّعة

يضيف إصدار 13 أكتوبر 2026 تعديلات على مخطط الحسابات، لتفادي حسابات طبقة LM head غير الضرورية عند الحاجة إلى التضمينات المجمّعة فقط.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدرت مكتبة llama.cpp، التي يتولى صيانتها ggml‑org، الإصدار b11597 في 13 أكتوبر 2026. ويعدّل التحديث مخطط الحسابات بحيث لا يعود النموذج ينشئ طبقة logits الكبيرة الخاصة بـ LM head عند استخراج التضمينات المجمّعة من السياق. ويقلل ذلك استهلاك الذاكرة ويسرّع الاستدلال في المهام التي تقتصر على التضمينات. كما يضبط التغيير العُقد المرتبطة في المخطط للحفاظ على اتساق الأبعاد.

لماذا يهم

يستطيع المطورون الذين يستخرجون التضمينات تشغيل نماذج llama.cpp بسرعة أكبر وعلى أجهزة أقل قدرة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.