Oossa

llama.cpp vb12532: настройка KV-padding в OpenCL и новые сборки

Вышло обновление поддержки OpenCL и готовые сборки для macOS, iOS и ряда платформ Linux.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

ggml‑org выпустила llama.cpp версии b12532 2026‑11‑19. Обновление позволяет пользователям OpenCL настраивать дополнение ключей и значений (KV-padding) в алгоритме декомпозированного flash-attention. Также доступны предварительно собранные бинарные файлы для Apple Silicon, Mac с процессорами Intel, iOS и ряда архитектур Linux, включая Ubuntu x64, arm64, s390x и сборки с Vulkan.

Почему это важно

Разработчики теперь могут точнее настраивать размещение данных в памяти для графических процессоров OpenCL, что потенциально повысит производительность на поддерживаемом оборудовании.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.