Het team van ggml-org heeft versie b12259 van llama.cpp uitgebracht. Deze versie voegt ondersteuning toe voor het vision-model Kimi K3.1 en verhelpt problemen met de preprocessing voor K2.5 en K3.1. Voorgebouwde binaries zijn beschikbaar voor macOS (Apple Silicon en Intel), iOS en verschillende Ubuntu-versies.
Waarom het ertoe doet
Ontwikkelaars kunnen het vision-model van Kimi nu lokaal draaien op gangbare desktop- en mobiele platforms, zonder clouddiensten.