Het ggml-org-team heeft llama.cpp versie b12531 uitgebracht. De update voegt ondersteuning toe voor het voxcpm2-model en zorgt voor een lichte snelheidsverbetering. Ook zijn er nieuwe voorgebouwde binaries beschikbaar voor macOS met Apple Silicon, macOS met Intel, iOS en verschillende Ubuntu-versies. De wijzigingen staan vermeld als ‘mtmd: support voxcpm2’ en een handvol oplossingen voor problemen.
Waarom het ertoe doet
Ontwikkelaars kunnen de nieuwere voxcpm2-modellen nu op meer platforms gebruiken en profiteren van een kleine snelheidswinst.