أصدر فريق ggml-org الإصدار llama.cpp b11710، وهو إصدار جديد من برمجياته مفتوحة المصدر لتشغيل نماذج اللغة. ويتضمن التغيير المدرج دمجًا مجمّعًا لأفضل الخبراء (top-k) في CUDA، وهي منصة للحوسبة عبر بطاقات الرسوميات، إلى جانب اختبارات وتعديل متعلق بـHIP.
تتيح صفحة الإصدار تنزيلات لعدة أنظمة، منها macOS وiOS وLinux. ولا تعرض الصفحة نتائج اختبارات الأداء، ولا توضح مقدار تأثير التغيير في السرعة أو استخدام الذاكرة.
لماذا يهم
يمكن للمطورين الذين يستخدمون CUDA مع النماذج ذات الخبراء المجمّعين تجربة التطبيق الجديد، لكن ملاحظات الإصدار لا تثبت أنه يحسّن الأداء عمليًا.
