A ggml-org lançou a versão b12318 do llama.cpp em 2026-11-12. A atualização adiciona um pool de buffers para depuração CUDA, que ajuda os desenvolvedores a monitorar o uso de memória com o compute-sanitizer. Ela também inclui novos binários pré-compilados para Apple Silicon, Macs com processadores Intel, iOS e várias configurações de CPU e Vulkan no Ubuntu.
Por que importa
Desenvolvedores que executam modelos LLaMA em GPUs NVIDIA agora podem depurar problemas de memória com mais facilidade, reduzindo falhas durante a inferência.
