Oossa

llama.cpp يضيف خيار إبقاء جهاز Vulkan نشطًا

تتيح مكتبة llama.cpp مفتوحة المصدر (v b12363) الآن للواجهات الخلفية لـVulkan إبقاء جهاز GPU نشطًا لمدة محددة، ما يسهّل تكرار استدعاءات الاستدلال.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org الإصدار b12363 من llama.cpp في 13 نوفمبر 2026. ويضيف التحديث إعدادًا اختياريًا لإبقاء الجهاز نشطًا في الواجهة الخلفية لـVulkan، يتيح للمستخدمين تحديد المدة التي يظل فيها GPU نشطًا قبل إيقافه. وينقل هذا التغيير مسؤولية إدارة الجهاز إلى الواجهة الخلفية، كما يبسّط الشيفرة. ويتضمن الإصدار ملفات ثنائية جاهزة لأنظمة macOS وiOS وعدة إصدارات من Ubuntu.

لماذا يهم

يمكن للمطورين تشغيل استدعاءات متكررة للنماذج على GPU من دون كلفة إعادة التهيئة، ما يحسّن سرعة الاستجابة في تطبيقات الذكاء الاصطناعي المحلية.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.