A equipe ggml-org lançou o llama.cpp versão b11792 em 2026-10-21. A atualização altera a chamada set_rows para permitir que os dados permaneçam na GPU, melhorando o desempenho para quem usa GPU. Já estão disponíveis binários pré-compilados para macOS Apple Silicon, macOS Intel, iOS e várias versões do Ubuntu (CPU, Vulkan, CUDA 12.8). Os links para o lançamento estão na página da tag no GitHub.
A mudança aparece nas notas da versão como “place d2t by its set_rows use so it can stay on the GPU (#30912)”.
Por que importa
Desenvolvedores podem executar modelos Llama mais rapidamente em GPUs compatíveis, sem transferências extras de dados.
