A equipe ggml-org publicou a versão b12322 do llama.cpp em 12 nov. 2026. A mudança altera a forma como os resultados do grafo reservam metadados: agora, são alocadas apenas as páginas necessárias, em vez de inicializar toda a reserva. Isso reduz a quantidade de RAM que a biblioteca utiliza durante a inferência.
A atualização está disponível para todas as plataformas listadas, de computadores com CPU macOS e Windows a versões para Linux com CUDA, Vulkan e OpenVINO.
Por que importa
Desenvolvedores que executam modelos LLaMA em dispositivos com memória limitada terão menor consumo de RAM, o que permite usar modelos maiores ou realizar várias tarefas ao mesmo tempo com mais fluidez.
