ggml‑org publicó llama.cpp versión b12206. La actualización corrige la caché de MoE (mezcla de expertos) para que la CPU ya no tenga que esperar a que se carguen los expertos almacenados en caché. Ya están disponibles binarios precompilados para macOS con Apple Silicon, macOS con procesadores Intel, iOS y varias configuraciones de Ubuntu, incluidas x64, arm64 y s390x, con compatibilidad con Vulkan o zDNN.
Por qué importa
Los desarrolladores pueden ejecutar LLM más rápido en sus propios equipos, sin el cuello de botella que provocaba la caché de MoE anterior.
