A biblioteca de código aberto llama.cpp lançou a versão b11680 em 16 de outubro de 2026. A atualização reformula o código para a NPU Hexagon: elimina uma solução improvisada, adiciona a reorganização de tensores para pesos F16/F32/BF16 e oferece suporte a get-rows em blocos para Q5_K e a tensores k-quant brutos. As mudanças também simplificam vários kernels internos e melhoram o desempenho em diversos back-ends, incluindo CPU, CUDA, Vulkan e dispositivos compatíveis com Hexagon. O projeto lista versões para macOS, Linux, Android, Windows e várias configurações do openEuler.
Por que importa
Agora, desenvolvedores podem executar modelos do llama.cpp com mais eficiência em celulares com Hexagon e outros dispositivos especializados.
