Oossa

llama.cpp добавила TOP_K_MASK в бэкенд Vulkan

В библиотеке с открытым исходным кодом llama.cpp появилась поддержка TOP_K_MASK для Vulkan; также исправлена связанная с этой операцией проблема с барьером и добавлено объявление функции в общий заголовочный файл.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект ggml‑org/llama.cpp выпустил обновление 2026‑11‑13. В бэкенд Vulkan для GPU добавили операцию TOP_K_MASK, исправили проблему с барьером для этой маски и объявили функцию в общем заголовочном файле. При подготовке изменений использовался Claude Opus 5.5.

Почему это важно

Пользователи GPU теперь могут применять маску top-k при инференсе и точнее управлять выбором токенов.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.