El proyecto ggml‑org/llama.cpp publicó la versión b12328 el 2026-11-12. La actualización modifica el backend para precargar únicamente las entradas calculadas en divisiones anteriores y evitar así leer tensores que se sobrescribirán más adelante. También añade una comprobación para omitir la caché MoE (mezcla de expertos) cuando el dispositivo actual no puede ejecutar la operación almacenada en caché, lo que evita copias de datos innecesarias.
Por qué importa
Los desarrolladores pueden esperar menos tráfico de memoria y una inferencia más rápida en hardware que no puede ejecutar cargas de trabajo MoE.
