Проект ggml-org llama.cpp выпустил версию b11800 2026-10-21. В обновлении появилась объединённая операция top-k mask (ggml_top_k_mask), которую могут использовать модели QSA, DSA и DeepSeek V4 CSA. Она заменяет написанный вручную код маскирования одним узлом, который присваивает невыбранным ячейкам значение –inf. Операция работает отдельно для каждой головы и поддерживает необязательные оценки, размеры блоков и дополнительные ячейки.
Почему это важно
Разработчики смогут быстрее запускать совместимые модели: библиотека выполняет маскирование за один оптимизированный шаг.
