ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11635, 2026-10-15 को जारी हुआ। इसमें CPU कोड बदला गया है, ताकि F16C निर्देश-समूह का समर्थन करने वाले x86 प्रोसेसर पर FP16-से-FP32 लुकअप टेबल का इस्तेमाल जारी रहे। पिछले बदलाव में दोनों स्केलर कन्वर्ज़न F16C के ज़रिए होने लगे थे, जिससे Q8_0/Q4_0 मैट्रिक्स-मल्टिप्लाई कर्नेल 45‑65 % धीमे हो गए थे। नए सुधार में समस्या पैदा करने वाली define लाइन को टिप्पणी में बदल दिया गया है और FP16→FP32 कन्वर्ज़न के लिए पुरानी टेबल बहाल कर दी गई है।
यह क्यों मायने रखता है
llama.cpp चलाने वाले डेवलपर अपडेट करने के बाद Intel CPU पर मॉडल का अनुमान noticeably तेज़ पाएंगे।
