El equipo de ggml‑org publicó la versión b11640 de llama.cpp. La actualización modifica el backend de Vulkan para usar una planificación de grupos de trabajo optimizada para L2 en la multiplicación de matrices. También ofrece nuevos binarios precompilados para Apple Silicon, Mac con Intel, iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA 12.8). Los usuarios pueden descargar los paquetes desde la página de lanzamientos de GitHub.
Por qué importa
El cambio puede hacer que los modelos LLaMA se ejecuten más rápido en GPU compatibles con Vulkan, lo que ayuda a los desarrolladores que trabajan con dispositivos Linux y Android.
