Oossa

llama.cpp يضيف انتباهًا فلاشًا متناثرًا عبر Vulkan

يدعم بيئة تشغيل النماذج اللغوية الكبيرة مفتوحة المصدر الآن نمطًا قائمًا على Vulkan للانتباه الفلاش المتناثر، مع بيانات K/V المكمّمة.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org الإصدار b11413 من llama.cpp في 5 أكتوبر 2026. ويضيف التحديث تنفيذًا عبر Vulkan للانتباه الفلاش المتناثر، يعمل مع موترات المفاتيح والقيم المكمّمة. ويصف الإصدار هذه الميزة بأنها «انتباه فلاش متناثر لبيانات K/V المكمّمة»، وهي موجهة للاستدلال المسرّع بوحدات معالجة الرسوميات. كما يضم الإصدار إصدارات معدّة لمنصات عديدة، من أجهزة Mac المزودة بمعالجات Apple Silicon إلى Windows مع CUDA وVulkan.

لماذا يهم

بات بإمكان المطورين تشغيل النماذج المكمّمة بسرعة أكبر على وحدات معالجة الرسوميات التي تدعم Vulkan، ما يخفض كلفة الحوسبة للأجهزة الطرفية.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.