Das Team von ggml-org hat am 13. Okt. 2026 llama.cpp in Version b11580 veröffentlicht. Das Update erweitert die Unterstützung für skalares DMA (Direct Memory Access) bei Binäroperationen und umfasst neue Kernel für Repeat-Operationen und komplexe Daten. Außerdem wurden DMA-freie Pfade bereinigt und Unterstützung für nicht zusammenhängende Strides hinzugefügt. Die Änderungen betreffen CPU-, CUDA-, Vulkan- und Hexagon-NPU-Builds unter Linux, Windows, macOS und Android. Entwickler können nun effizientere Tensorberechnungen auf Geräten ausführen, die von Apple-Silicon- bis zu Snapdragon-Chips reichen.
Warum es wichtig ist
Entwickler können llama.cpp-Modelle auf mehr Hardware schneller ausführen und so die Inferenzzeit für Endnutzer verkürzen.