ggml-org har släppt llama.cpp version b12362. Uppdateringen inför vänsterfaktorisering för snabbare matchning av grammatikregler, lägger till ett abstrakt syntaxträd för parsning och begränsar alternativa regler. Några nyligen gjorda ändringar har återställts för att hålla parsern stabil. Bygget stöder nu en rad plattformar, från macOS med Apple Silicon till Windows med CUDA 13.
Versionsinformationen listar stöd för Linux, Android och Windows samt flera grafikbackendar, däribland Vulkan och OpenCL.
Varför det spelar roll
Utvecklare kan köra LLM:er med snabbare och tillförlitligare grammatikhantering på många olika enheter.
