Oossa

В llama.cpp b11976 улучшен Hexagon IM2COL

Предварительная версия добавляет распараллеливание HVX для Hexagon IM2COL по блокам и включает сборки для нескольких платформ — процессоров, видеокарт и мобильных устройств.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект llama.cpp выпустил предварительную версию b11976 29 октября 2026 года. Главное изменение — обновление Hexagon IM2COL: обработка блоков выходных столбцов теперь распределяется между несколькими потоками с помощью распараллеливания HVX — метода, позволяющего выполнять задачи на векторном оборудовании Hexagon.

В списке релизов есть сборки для Linux и Android на устройствах Snapdragon с поддержкой CPU, графического процессора Adreno и NPU Hexagon. В примечаниях не указано, насколько выросла скорость работы и какие модели получат преимущество.

Почему это важно

Разработчики могут протестировать обновлённый путь Hexagon в llama.cpp на совместимых устройствах Snapdragon, однако в примечаниях к релизу нет замеров производительности.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.