ggml‑org выпустила llama.cpp версии b12318 2026‑11‑12. В обновлении появился отладочный пул буферов CUDA, который помогает разработчикам отслеживать использование памяти с помощью compute-sanitizer. Также добавлены новые готовые сборки для Apple Silicon, компьютеров Mac с процессорами Intel, iOS и нескольких вариантов Ubuntu для CPU и Vulkan.
Почему это важно
Разработчикам, запускающим модели LLaMA на видеокартах NVIDIA, стало проще находить проблемы с памятью и снижать риск сбоев во время инференса.
