ggml‑org släppte version b11804 av llama.cpp den 2026‑10‑22. Uppdateringen lägger till en OpenCL-rutin som beräknar argmax från 32-bitars flyttal till 32-bitars heltal, vilket ökar inferenshastigheten på GPU:er. Den innehåller också nya förbyggda binärfiler för Apple Silicon, Intel-macOS, iOS och flera Ubuntu-varianter (CPU, Vulkan, CUDA). Ändringarna har gjorts av OpenCode och Li He från Qualcomm.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp-modeller snabbare på OpenCL-kompatibla GPU:er, vilket ger fler hårdvarualternativ för hobbyprojekt inom AI.
