Oossa

إصدار b11406 من llama.cpp يضيف صيغ تكميم جديدة لـWebGPU

تدعم مكتبة llama.cpp مفتوحة المصدر الآن عدة صيغ منخفضة الدقة على WebGPU، مع إتاحة ملفات تنفيذية لأنظمة macOS وLinux وiOS.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org الإصدار b11406 من llama.cpp. ويضيف دعم WebGPU لمسارات التكميم MMVQ للصيغ Q1_0 وQ5_0 وQ5_1 وQ3_K وQ5_K وQ6_K وMXFP4. كما يوفر الإصدار ملفات تنفيذية مُعدّة مسبقًا لأنظمة macOS (Apple Silicon وIntel) وiOS، وعدة إصدارات من Ubuntu (CPU وVulkan وCUDA).

لماذا يهم

يمكن للمطورين الآن تشغيل نماذج لغوية كبيرة موفرة للذاكرة في المتصفحات أو على وحدات معالجة الرسومات التي تستخدم WebGPU، ما يوسع نطاق الأماكن التي يمكن نشر llama.cpp فيها.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.