ggml‑org har släppt llama.cpp version b11778. Uppdateringen lägger till stöd för Nemotron‑3(.5)‑Embed, en ny modell för textinbäddningar. Den innehåller också förkompilerade binärfiler för macOS med Apple Silicon, macOS med Intel, iOS och flera Ubuntu-varianter, däribland GPU-versioner för Vulkan och CUDA‑12.8. Filerna kan laddas ner via direktlänkar på GitHub-sidan för releasen.
Varför det spelar roll
Utvecklare kan nu köra Nemotron‑3(.5)‑Embed lokalt på många olika enheter utan att behöva använda en molntjänst.
