El equipo de ggml‑org publicó llama.cpp versión b12366 el 2026‑11‑13. La actualización añade compatibilidad con BF16 (un formato de coma flotante de 16 bits) en la capa RMS_NORM para las plataformas CPU y CUDA. Ahora, una única función auxiliar inicia los kernels RMS_NORM de F32/BF16. Ya se pueden descargar binarios precompilados para macOS Apple Silicon, Intel, iOS y distintas variantes de Ubuntu.
Por qué importa
Los desarrolladores pueden ejecutar modelos Llama más rápido en hardware optimizado para BF16, con menos uso de memoria y poca pérdida de precisión.