ओपन-सोर्स llama.cpp लाइब्रेरी ने 22 Oct 2026 को b11812 संस्करण जारी किया। इसमें macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई कॉन्फ़िगरेशन (CPU, Vulkan, CUDA 12) के लिए सीधे चलाने योग्य बाइनरी उपलब्ध हैं। इस रिलीज़ में सभी Granite मॉडल के लेयर इनपुट भी दर्ज किए गए हैं। उपयोगकर्ता GitHub रिलीज़ पेज से अपने डिवाइस के लिए उपयुक्त पैकेज डाउनलोड कर सकते हैं।
यह क्यों मायने रखता है
डेवलपर अब क्लाउड सेवा की ज़रूरत के बिना कई डेस्कटॉप और मोबाइल सिस्टम पर LLM स्थानीय रूप से चला सकते हैं।