ggml‑org выпустила llama.cpp версии b11778. В новой сборке появилась поддержка Nemotron‑3(.5)‑Embed — новой модели для создания текстовых эмбеддингов. Также доступны предварительно скомпилированные бинарные файлы для Mac на Apple Silicon, Mac на Intel, iOS и нескольких вариантов Ubuntu, включая сборки для GPU с Vulkan и CUDA‑12.8. Файлы можно скачать по прямым ссылкам на странице релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать Nemotron‑3(.5)‑Embed локально на самых разных устройствах, не пользуясь облачным сервисом.