L’équipe ggml‑org a publié la version b11580 de llama.cpp le 13 oct. 2026. Cette mise à jour étend la prise en charge du DMA scalaire (accès direct à la mémoire) pour les opérations binaires, avec notamment de nouveaux noyaux pour la répétition et les données complexes. Elle simplifie également les chemins sans DMA et prend en charge les pas non contigus. Ces changements concernent les versions pour CPU, CUDA, Vulkan et NPU Hexagon sous Linux, Windows, macOS et Android. Les développeurs peuvent désormais effectuer plus efficacement des calculs sur les tenseurs sur des appareils allant des puces Apple Silicon aux puces Snapdragon.
Pourquoi c'est important
Les développeurs peuvent exécuter les modèles llama.cpp plus rapidement sur un plus grand éventail de matériel, ce qui réduit le temps d’inférence pour les utilisateurs finaux.