A equipe ggml-org lançou a versão b12531 do llama.cpp. A atualização adiciona suporte ao formato de modelo voxcpm2 e traz uma ligeira melhoria de velocidade. Também inclui novos binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias versões do Ubuntu. As mudanças estão descritas como “mtmd: support voxcpm2” e incluem algumas correções.
Por que importa
Agora, desenvolvedores podem executar os modelos voxcpm2 mais recentes em mais plataformas, com um pequeno ganho de velocidade.