Команда ggml-org выпустила версию llama.cpp b11790 21 октября 2026 года. Обновление добавляет векторизацию repack с NEON для квантования Q4_0 и многопоточную обработку других типов, повышая производительность на процессорах ARM. Теперь доступны готовые сборки для Apple Silicon на macOS, iOS и различных версий Linux для ARM. Одним из соавторов изменений стал инженер Qualcomm. В релиз также вошли сборки с Vulkan для Linux x64 и arm64.
Почему это важно
Ноутбуки и телефоны на базе ARM смогут быстрее запускать модели Llama, что сделает использование ИИ локально практичнее.
