El equipo de ggml-org publicó la versión b11465 de llama.cpp. Incluye binarios precompilados para macOS con Apple Silicon (arm64), macOS Intel (x64), iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA 12.8). La versión también incorpora un cambio en las pruebas para conservar el ancla al probar la reversión recurrente. Todos los archivos se pueden descargar desde la página de la versión en GitHub.
Por qué importa
Los desarrolladores ya pueden ejecutar LLMs localmente en más tipos de hardware sin tener que compilar el código por su cuenta.