Oossa

llama.cpp ускорил работу на ARM и добавил сборки для Apple и Linux

В библиотеке для запуска LLaMA появились более быстрые квантованные ядра для ARM SVE и i8mm, а также новые сборки для macOS, iOS и Ubuntu.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект llama.cpp выпустил версию b11811 22 октября 2026 года. Обновление добавляет ядра Q8_0 SVE dot-product GEMV и SVE i8mm GEMM, ускоряющие запуск квантованных моделей на ARM-процессорах. Для скачивания также доступны готовые сборки для macOS на Apple Silicon, Intel, iOS и нескольких вариантов Ubuntu (CPU, Vulkan, CUDA 12.8).

Почему это важно

Разработчики смогут быстрее запускать модели LLaMA на современных ARM-устройствах и графических процессорах под Linux — без написания собственного кода.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.