Oossa

إصدار llama.cpp الجديد b11640 يصلح جدولة مجموعات العمل في Vulkan

أضاف مشغّل نماذج اللغة الكبيرة مفتوح المصدر تحسينًا لجدولة مجموعات العمل يراعي ذاكرة L2، وأصدر ملفات ثنائية محدّثة لأنظمة macOS وiOS وUbuntu.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org النسخة b11640 من llama.cpp. ويعدّل التحديث الواجهة الخلفية لـVulkan لتستخدم جدولة مجموعات عمل تراعي ذاكرة L2 عند ضرب المصفوفات. كما يوفّر ملفات ثنائية جاهزة جديدة لأجهزة Apple Silicon وحواسيب Mac بمعالجات Intel وأجهزة iOS، إضافة إلى عدة إصدارات من Ubuntu (CPU وVulkan وCUDA 12.8). يمكن للمستخدمين تنزيل الحزم من صفحة الإصدار على GitHub.

لماذا يهم

قد يجعل هذا التغيير تشغيل نماذج LLaMA أسرع على وحدات معالجة الرسوميات التي تدعم Vulkan، ما يساعد المطورين على أجهزة Linux وAndroid.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.