Oossa

В llama.cpp b11471 добавили токены и готовые бинарные файлы

Вышла версия библиотеки с открытым исходным кодом llama.cpp b11471: в ней появились дополнительные токены словаря и готовые бинарные файлы для macOS, iOS и Linux.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml‑org выпустила llama.cpp версии b11471. В словарь моделей добавлен новый набор из 30090 токенов plamo fim. В релиз также вошли готовые к запуску бинарные файлы для macOS на Apple Silicon, macOS на Intel, iOS и нескольких сборок Linux (CPU, Vulkan, CUDA 12.8). Подходящий пакет можно скачать со страницы релиза на GitHub.

Почему это важно

Теперь разработчики могут запускать llama.cpp локально на большем числе устройств без сборки из исходного кода — это экономит время и упрощает тестирование.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.