ggml‑org publicó la versión b12362 de llama.cpp. La actualización incorpora la factorización por la izquierda para acelerar la búsqueda de coincidencias en gramáticas, añade un árbol de sintaxis abstracta para el análisis y limita las reglas alternativas. Se revirtieron algunos cambios recientes para mantener la estabilidad del analizador. Ahora, la compilación es compatible con una amplia variedad de plataformas, desde macOS con Apple Silicon hasta Windows con CUDA 13.
Las notas de la versión indican que es compatible con Linux, Android y Windows, así como con varios back-ends para GPU, como Vulkan y OpenCL.
Por qué importa
Los desarrolladores pueden ejecutar LLM con un procesamiento de gramáticas más rápido y fiable en una gran variedad de dispositivos.
