A biblioteca llama.cpp lançou uma nova versão em 20 de outubro de 2026. A atualização modifica o roteador de mistura de especialistas (MoE) para que a seleção não dependa mais de ruído aleatório do backend. A correção atribui a cada especialista uma faixa de pontuação própria, reduzindo as diferenças nas saídas de 4e‑3 para menos de 5e‑7. A atualização também inclui o nome real do dispositivo Apple (por exemplo, M2 Ultra) nas tabelas de teste, permitindo distinguir os resultados de CPU e GPU.
Por que importa
Desenvolvedores que usam llama.cpp em dispositivos Apple Silicon terão resultados de modelos mais consistentes e relatórios de desempenho mais claros.