Oossa

llama.cpp предупреждает о настройке p_min для черновиков

Новая версия предупреждает о сочетании флага p_min с вероятностной выборкой черновиков, которое может приводить к пропуску токенов.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Библиотека с открытым исходным кодом llama.cpp выпустила версию b12364 2026-11-13. Теперь она выводит предупреждение, если задан флаг --spec-draft-p-min и используется вероятностная выборка черновиков, рекомендуя установить p_min в ноль. Изменение отключает порог p_min для черновиков MTP и DFlash2: раньше из-за него могли отбрасываться токены, которые приняла бы целевая модель. Предупреждение показывается только для алгоритмов генерации черновиков, которые действительно используют p_min, поэтому для n-gram и DSpark лишних сообщений не будет.

Почему это важно

Разработчики смогут избежать незаметной потери токенов при настройке черновых моделей и повысить надежность генерации.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.