Oossa

llama.cpp выпустила новые сборки для macOS, Linux и iOS

Вышли готовые пакеты с открытым исходным кодом для Apple Silicon, Intel Mac, процессоров Ubuntu, Vulkan и CUDA 12.8.

ЗаметкаАвтор: Опубликовано Oossa: Обновлено: 1 мин чтения

ggml‑org выпустила версию b11539 llama.cpp — лёгкого инструмента для запуска больших языковых моделей на множестве устройств. Новые архивы доступны для macOS на Apple Silicon и Intel, iOS XCFramework, а также для нескольких сборок Ubuntu с поддержкой CPU, Vulkan и CUDA 12.8. Ссылки на загрузку опубликованы на странице релиза в GitHub.

Почему это важно

Разработчики теперь могут запускать llama.cpp локально на большем числе устройств, не собирая программу самостоятельно.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.