Het team van ggml-org heeft op 2026-11-13 versie b12366 van llama.cpp uitgebracht. De update voegt ondersteuning voor BF16 (een 16-bits drijvende-kommagetalnotatie) toe aan de RMS_NORM-laag voor zowel CPU- als CUDA-back-ends. Eén helper start nu de F32/BF16-RMS_NORM-kernels. Vooraf gebouwde binaries voor Apple Silicon en Intel op macOS, iOS en verschillende Ubuntu-varianten zijn beschikbaar om te downloaden.
Waarom het ertoe doet
Ontwikkelaars kunnen Llama-modellen sneller draaien op hardware die de voorkeur geeft aan BF16. Dat verlaagt het geheugengebruik zonder veel nauwkeurigheid te verliezen.
