A equipe ggml-org lançou a versão b12363 do llama.cpp em 13 de novembro de 2026. A atualização acrescenta ao backend Vulkan uma opção para manter o dispositivo ativo, permitindo definir por quanto tempo a GPU permanece ligada antes de ser desligada. A mudança transfere a propriedade do dispositivo para o backend e simplifica o código. O lançamento inclui binários pré-compilados para macOS, iOS e várias versões do Ubuntu.
Por que importa
Desenvolvedores podem executar chamadas repetidas de modelos na GPU sem o custo de reinicializá-la, acelerando as respostas de aplicativos locais de IA.
