ggml-org hat am 2026-10-22 Version b11804 von llama.cpp veröffentlicht. Das Update ergänzt eine OpenCL-Routine, die den Argmax-Wert aus 32-Bit-Gleitkommazahlen als 32-Bit-Ganzzahl berechnet und so die Inferenz auf GPUs beschleunigt. Außerdem enthält es neue vorgefertigte Binärdateien für Apple Silicon, Intel-Macs, iOS und verschiedene Ubuntu-Varianten (CPU, Vulkan, CUDA). Die Änderungen stammen von OpenCode und Li He von Qualcomm.
Warum es wichtig ist
Entwickler können llama.cpp-Modelle nun auf OpenCL-kompatiblen GPUs schneller ausführen. Das erweitert die Hardware-Auswahl für KI-Projekte von Hobbyentwicklern.
