ggml‑org bracht llama.cpp versie b12362 uit. De update introduceert left-factorisatie om grammatica's sneller te matchen, voegt een abstracte syntaxisboom toe voor het parsen en beperkt alternatieve regels. Enkele recente commits zijn teruggedraaid om de parser stabiel te houden. De build ondersteunt nu een breed scala aan platforms, van macOS met Apple Silicon tot Windows CUDA 13.
In de release notes staat ondersteuning voor Linux, Android en Windows, en voor diverse GPU-backends zoals Vulkan en OpenCL.
Waarom het ertoe doet
Ontwikkelaars kunnen LLM's met snellere en betrouwbaardere grammatica-afhandeling op uiteenlopende apparaten draaien.
