O projeto ggml‑org/llama.cpp lançou a versão b12327 em 12 Nov 2026. A atualização adiciona um kernel SpacemiT Q4_1 32×256 que usa o mesmo kernel de alto desempenho (HP) do Q4_0. Também conclui o caminho de código para M1 (Apple Silicon), permitindo que a nova quantização seja executada no macOS arm64. A versão lista dezenas de plataformas, de CPUs e GPUs Linux a Windows com CUDA 13 e Android com Snapdragon.
Por que importa
Os desenvolvedores agora podem executar modelos LLaMA menores e mais rápidos em Macs e outros dispositivos, com menor uso de memória.