A equipe ggml-org lançou a versão b12366 do llama.cpp em 2026-11-13. A atualização adiciona suporte a BF16 (um formato de ponto flutuante de 16 bits) à camada RMS_NORM nos back-ends de CPU e CUDA. Um único auxiliar agora inicia os kernels RMS_NORM em F32/BF16. Há binários pré-compilados disponíveis para download para macOS com Apple Silicon, Intel, iOS e várias versões do Ubuntu.
Por que importa
Desenvolvedores podem executar modelos Llama com mais rapidez em hardware que favorece BF16, reduzindo o uso de memória sem grande perda de precisão.
