El equipo de ggml-org publicó la versión b11784 de llama.cpp. Incluye una corrección para un fallo que provocaba cierres inesperados en el backend Sycl iq3. La versión ofrece binarios precompilados para Apple Silicon, Mac con Intel, iOS y distintas configuraciones de Ubuntu, incluidas Vulkan y CUDA 12.8. Se pueden descargar desde la página de la versión en GitHub.
Por qué importa
Los desarrolladores ya pueden ejecutar llama.cpp en más tipos de hardware sin sufrir fallos, lo que amplía las opciones para ejecutar LLM localmente.