El equipo de ggml-org publicó llama.cpp b12024, que cambia la forma de reorganizar el trabajo de multiplicación de matrices para LFM-SC: ahora se usa un tensor 2D en lugar de uno 3D. La página de la versión ofrece descargas para macOS, iOS y varias configuraciones de Linux, incluidas compilaciones para CPU y Vulkan.
Las notas no indican si el cambio para LFM-SC mejora la velocidad o afecta a otros modelos.
Por qué importa
Quienes usen LFM-SC con llama.cpp pueden probar la nueva versión, pero las notas no confirman que haya mejoras de rendimiento.
