A equipe ggml-org lançou a versão b12259 do llama.cpp. A atualização adiciona suporte ao modelo visual Kimi K3.1 e corrige o pré-processamento do K2.5 e do K3.1. Há binários pré-compilados para macOS (Apple Silicon e Intel), iOS e várias versões do Ubuntu.
Por que importa
Agora, desenvolvedores podem executar localmente o modelo visual da Kimi em plataformas comuns de desktop e dispositivos móveis, sem usar serviços na nuvem.