El equipo de ggml-org lanzó la versión b11827 de llama.cpp. La actualización incorpora kernels OpenCL para convolución depthwise 2D, con compatibilidad con las GPU Qualcomm Adreno. Ya hay binarios precompilados para macOS con Apple Silicon, macOS con procesadores Intel, iOS y varias plataformas Ubuntu (CPU y Vulkan). Los cambios fueron aportados por OpenCode y Li He, ingeniero de Qualcomm.
Por qué importa
Los desarrolladores ahora pueden ejecutar modelos de llama.cpp más rápido en dispositivos con GPU OpenCL, lo que amplía las opciones de hardware de bajo consumo.