Le projet llama.cpp a publié la version b11811 le 22 oct. 2026. Cette mise à jour ajoute des kernels GEMV à produit scalaire SVE Q8_0 et des kernels GEMM SVE i8mm, qui accélèrent l’inférence de modèles quantifiés sur les processeurs ARM. Des binaires précompilés pour macOS sur Apple Silicon, Intel, iOS et plusieurs versions d’Ubuntu (CPU, Vulkan, CUDA 12.8) sont désormais disponibles au téléchargement.
Pourquoi c'est important
Les développeurs peuvent exécuter plus rapidement des modèles LLaMA sur du matériel ARM récent et sur des GPU Linux, sans avoir à écrire de code personnalisé.
