Biblioteket llama.cpp med öppen källkod tillkännagav version b11812 den 22 okt. 2026. Den innehåller färdigbyggda binärer för macOS med Apple Silicon, macOS med Intel, iOS och flera Ubuntu-konfigurationer (CPU, Vulkan och CUDA 12). I versionen finns också lagerindata för alla Granite-modeller. Användare kan ladda ner rätt paket från versionssidan på GitHub.
Varför det spelar roll
Utvecklare kan nu köra LLM:er lokalt på många datorer och mobila enheter utan att behöva använda en molntjänst.