# llama.cpp b12094 ускоряет top-k-сэмплирование на Hexagon

> В версии llama.cpp изменён алгоритм top-k-сэмплирования для оборудования Hexagon: сканирование позволяет не сортировать блоки, которые не попадут в итоговую выборку. Данных о приросте скорости не приводится.

Oossa · 2026-11-04 · https://oossa.com/ru/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

Команда ggml-org выпустила llama.cpp b12094 4 ноября 2026 года. В версии ускорен путь top-k-сэмплирования для бэкенда Hexagon. При генерации текста top-k-сэмплирование выбирает варианты с наивысшими оценками.

Изменение рассчитано на значения k от 2 до 64 и строки шириной более 1,024 элементов. Алгоритм пропускает сортировку блоков, в которых не может быть результата с высокой оценкой, однако в описании релиза нет измерений прироста скорости.

## Факты

- Новый путь использует векторную операцию поиска максимума Hexagon для проверки блоков по 256 значений.
- Он поддерживает обработку как одной, так и нескольких строк.

## Почему это важно

Пользователи llama.cpp на совместимом оборудовании Hexagon получат более эффективный метод сэмплирования для этих задач, хотя в релизе не приводится оценка реального прироста скорости.

## Источники и ссылки

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

Обновлено: 2026-11-04