llama.cpp b11496 ускоряет загрузку моделей через SYCL

8 октября 2026 года вышла версия b11496 библиотеки llama.cpp с открытым исходным кодом. В ней добавлен способ пакетной загрузки моделей через SYCL с использованием закреплённого кольцевого буфера.

ЗаметкаАвтор: OossaОпубликовано Oossa: 8 октября 2026 г. в 10:38 UTC1 мин чтения

1 источников ↓

Команда ggml-org выпустила llama.cpp b11496 8 октября 2026 года. Обновление добавляет этап SYCL, который передаёт пакетные загрузки моделей через закреплённый кольцевой буфер, ускоряя загрузку на совместимых GPU. Для скачивания доступны сборки для macOS (Apple Silicon и Intel), iOS и различных версий Ubuntu (CPU, Vulkan, CUDA 12).

Почему это важно

Разработчики смогут быстрее загружать большие языковые модели на оборудовании, совместимом с SYCL, сокращая время запуска приложений на базе llama.cpp.