ggml‑org hat am 22. Okt. 2026 llama.cpp Version b11810 veröffentlicht. Das Update führt die fp16- und fp32-Dequantisierungsschalter zusammen. Die Änderung wird unter #30740 geführt. Vorgefertigte Binaries gibt es jetzt für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS sowie verschiedene Ubuntu-CPUs und GPUs mit Vulkan- und CUDA‑12.8-Unterstützung. Auf der Release-Seite sind die tar.gz-Dateien für die einzelnen Plattformen verlinkt.
Warum es wichtig ist
Entwickler können LLaMA-Modelle auf mehr Hardware lokal ausführen, ohne den Quellcode selbst kompilieren zu müssen.