Oossa

В llama.cpp добавили поддержку Nemotron‑3(.5)‑Embed

Библиотека с открытым исходным кодом llama.cpp (v b11778) теперь поддерживает Nemotron‑3(.5)‑Embed. Доступны сборки для macOS, iOS и Linux, в том числе с Vulkan и CUDA.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

ggml‑org выпустила llama.cpp версии b11778. В новой сборке появилась поддержка Nemotron‑3(.5)‑Embed — новой модели для создания текстовых эмбеддингов. Также доступны предварительно скомпилированные бинарные файлы для Mac на Apple Silicon, Mac на Intel, iOS и нескольких вариантов Ubuntu, включая сборки для GPU с Vulkan и CUDA‑12.8. Файлы можно скачать по прямым ссылкам на странице релиза на GitHub.

Почему это важно

Теперь разработчики могут запускать Nemotron‑3(.5)‑Embed локально на самых разных устройствах, не пользуясь облачным сервисом.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.