L’équipe ggml-org a publié la version b11784 de llama.cpp. Elle corrige un crash du backend Sycl iq3. Cette version propose des binaires précompilés pour Apple Silicon, les Mac Intel, iOS et plusieurs configurations Ubuntu, notamment Vulkan et CUDA 12.8. Ils sont téléchargeables depuis la page de la version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter llama.cpp sur davantage de matériel sans crash, ce qui élargit l’accès à l’inférence locale de LLM.