O projeto ggml‑org/llama.cpp lançou a versão b12328 em 2026-11-12. A atualização altera o backend para pré-carregar apenas entradas calculadas por divisões anteriores, evitando a leitura de tensores que serão sobrescritos depois. Também adiciona uma verificação para ignorar o cache MoE (mistura de especialistas) quando o dispositivo atual não consegue executar a operação em cache, evitando cópias de dados desnecessárias.
Por que importa
Desenvolvedores podem esperar menor tráfego de memória e inferência mais rápida em hardware que não consegue lidar com cargas de trabalho MoE.
