La bibliothèque open source llama.cpp a publié une nouvelle version le 2026‑10‑18, qui ajoute la prise en charge de SUM sur les tenseurs non contigus. Cette fonctionnalité est disponible sur CPU, CUDA, Vulkan et WebGPU, et la suite de tests comprend désormais des cas couvrant ces vues. La mise à jour élargit également la liste des binaires précompilés pour macOS, Linux, Android et Windows, avec de nombreuses configurations matérielles, notamment Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13 et Snapdragon NPU. Le site du projet et les attestations sont accessibles via les liens de téléchargement.
Pourquoi c'est important
Les développeurs peuvent désormais effectuer des sommes plus rapides et plus économes en mémoire sur un plus grand nombre d’appareils, ce qui améliore les performances des pipelines d’inférence des LLM.
