L’équipe ggml-org a publié la version b11790 de llama.cpp le 21 octobre 2026. Cette mise à jour ajoute le repack vectorisé NEON pour la quantification Q4_0 et le traitement multithread d’autres types, améliorant ainsi les performances sur les processeurs ARM. Des binaires précompilés sont désormais disponibles pour macOS sur Apple Silicon, iOS et différentes versions de Linux pour ARM. Les modifications ont été coécrites par un ingénieur de Qualcomm. La version comprend également des compilations Vulkan pour Linux x64 et arm64.
Pourquoi c'est important
Les ordinateurs portables et téléphones équipés de processeurs ARM peuvent exécuter les modèles Llama plus rapidement, ce qui rend l’utilisation de l’IA en local plus pratique.
