Teamet bakom ggml-org släppte llama.cpp version b12366 den 2026‑11‑13. Uppdateringen lägger till stöd för BF16 (ett 16-bitars flyttalsformat) i RMS_NORM-lagret för både CPU- och CUDA-bakändarna. En gemensam hjälpfunktion startar nu F32/BF16-kärnorna för RMS_NORM. Förkompilerade binärfiler för macOS med Apple Silicon, Intel, iOS och flera Ubuntu-varianter finns att ladda ned.
Varför det spelar roll
Utvecklare kan köra Llama-modeller snabbare på hårdvara som är optimerad för BF16 och minska minnesanvändningen utan att förlora särskilt mycket noggrannhet.
