Teamet bakom ggml-org har släppt llama.cpp version b11827. Uppdateringen lägger till OpenCL-kärnor för depthwise conv2d, med stöd för Qualcomm Adreno-GPU:er. Färdigbyggda binärfiler finns nu för macOS med Apple Silicon, macOS med Intel, iOS och flera Ubuntu-plattformar (CPU och Vulkan). Ändringarna har bidragits med av OpenCode och Li He, ingenjör på Qualcomm.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp-modeller snabbare på enheter med OpenCL-GPU:er, vilket ger fler alternativ för strömsnål hårdvara.
