De opensourcebibliotheek llama.cpp kondigde op 22 oktober 2026 versie b11812 aan. De release bevat kant-en-klare binaries voor macOS op Apple Silicon en Intel, iOS en verschillende Ubuntu-configuraties (CPU, Vulkan en CUDA 12). Ook zijn voor alle Granite-modellen de laaginputs vastgelegd. Gebruikers kunnen het geschikte pakket downloaden via de GitHub-releasepagina.
Waarom het ertoe doet
Ontwikkelaars kunnen nu lokaal LLM's draaien op uiteenlopende desktop- en mobiele systemen, zonder een clouddienst nodig te hebben.