Het team van ggml-org heeft llama.cpp versie b11796 uitgebracht. De update voegt een nieuw stateobject toe voor de functie mtmd_gen. Ook zijn er kant-en-klare binaries beschikbaar voor macOS (Apple Silicon en Intel), iOS en verschillende Ubuntu-versies, waaronder builds voor CPU, Vulkan en CUDA 12.8.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp nu op meer hardware gebruiken, vooral op GPU's met CUDA 12.8, zonder de software zelf te hoeven bouwen.