Oossa

llama.cpp añade compatibilidad con BF16 en RMS_NORM

La biblioteca de inferencia Llama de código abierto ya admite precisión BF16 en la operación RMS_NORM, con binarios para macOS, iOS y Linux.

BrevePor Publicado por Oossa: 1 min de lectura

El equipo de ggml‑org publicó llama.cpp versión b12366 el 2026‑11‑13. La actualización añade compatibilidad con BF16 (un formato de coma flotante de 16 bits) en la capa RMS_NORM para las plataformas CPU y CUDA. Ahora, una única función auxiliar inicia los kernels RMS_NORM de F32/BF16. Ya se pueden descargar binarios precompilados para macOS Apple Silicon, Intel, iOS y distintas variantes de Ubuntu.

Por qué importa

Los desarrolladores pueden ejecutar modelos Llama más rápido en hardware optimizado para BF16, con menos uso de memoria y poca pérdida de precisión.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.