ggml‑org heeft llama.cpp versie b11778 uitgebracht. De update voegt ondersteuning toe voor Nemotron‑3(.5)‑Embed, een nieuw model voor tekstembeddings. Ook zijn er vooraf gecompileerde binaries beschikbaar voor macOS Apple Silicon, macOS Intel, iOS en verschillende Ubuntu-versies, waaronder GPU-builds voor Vulkan en CUDA‑12.8. De bestanden zijn rechtstreeks te downloaden via de releasepagina op GitHub.
Waarom het ertoe doet
Ontwikkelaars kunnen Nemotron‑3(.5)‑Embed nu lokaal draaien op een breed scala aan apparaten, zonder clouddienst.
