ggml‑org bracht op 2026‑11‑12 versie b12318 van llama.cpp uit. De update voegt een CUDA-debugbufferpool toe waarmee ontwikkelaars het geheugengebruik kunnen volgen met compute-sanitizer. Ook bevat de versie nieuwe vooraf gebouwde binaries voor Apple Silicon, Intel-macs, iOS en verschillende Ubuntu-doelplatforms voor CPU en Vulkan.
Waarom het ertoe doet
Ontwikkelaars die LLaMA-modellen op NVIDIA-GPU’s draaien, kunnen geheugenproblemen nu makkelijker opsporen. Dat kan crashes tijdens inferentie helpen voorkomen.
