Das Team von ggml-org hat am 20. Okt. 2026 llama.cpp in Version b11760 veröffentlicht. Das Update behebt einen Reduktionsfehler in der Matrixmultiplikationsfunktion, der auftritt, wenn die Kachelbreiten keine Vielfachen von 64 sind. Betroffen waren sowohl die HIP- als auch die CUDA-GPU-Pfade. Außerdem enthält die Version neue vorkompilierte Binärdateien für Apple Silicon, Intel-Macs, iOS sowie verschiedene Ubuntu-Konfigurationen mit CPU, Vulkan und CUDA.
Warum es wichtig ist
Entwickler können llama.cpp nun auf mehr GPU-Konfigurationen ohne Abstürze ausführen. Dadurch kommen mehr Geräte für den Betrieb lokaler LLMs infrage.
