Det öppna källkodsprojektet llama.cpp släppte en ny version den 2026‑10‑18 med stöd för SUM på icke-kontinuerliga tensorer. Ändringen fungerar med CPU-, CUDA-, Vulkan- och WebGPU-bakändar, och testsviten innehåller nu även testfall för dessa vyer. Uppdateringen utökar också utbudet av förbyggda binärfiler för macOS, Linux, Android och Windows, med stöd för många hårdvarukombinationer, till exempel Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13 och Snapdragon NPU. Länkar till projektets webbplats och verifieringsintyg finns för nedladdning.
Varför det spelar roll
Utvecklare kan nu utföra snabbare och mer minneseffektiva summeringar på fler enheter, vilket kan förbättra prestandan i inferenspipelines för stora språkmodeller.
