کتابخانه متنباز llama.cpp نسخه b11635 را در ۲۰۲۶-۱۰-۱۵ منتشر کرد. در این نسخه، کد پردازنده تغییر کرده تا جدول جستوجوی FP16 به FP32 در پردازندههای x86 پشتیبانیکننده از مجموعه دستورالعمل F16C حفظ شود. تغییر قبلی هر دو تبدیل اسکالر را به F16C سپرده بود و باعث شده بود سرعت کرنلهای ضرب ماتریسی Q8_0/Q4_0 بین ۴۵ تا ۶۵ درصد کاهش یابد. اصلاح جدید تعریف مشکلساز را غیرفعال میکند و جدول اصلی را برای تبدیلهای FP16→FP32 برمیگرداند.
چرا مهم است
توسعهدهندگانی که llama.cpp را روی پردازندههای اینتل اجرا میکنند، پس از بهروزرسانی از استنتاج مدل بهمراتب سریعتری بهرهمند میشوند.