# llama.cpp поддерживает до 256 однотокенных маркеров выбора

> В библиотеке llama.cpp с открытым исходным кодом появилась возможность задавать до 256 разных маркеров для моделей Granite Switch.

Oossa · 2026-10-17 · https://oossa.com/ru/llama-cpp-adds-support-for-256-single-token-switch-options

Вышла новая версия проекта llama.cpp (b11707) с функцией GraniteSwitchDecisionFullOptions. Теперь для каждой модели с переключателями можно использовать до 256 уникальных однотокенных маркеров вместо прежних 66. Код автоматически определяет, какие символы в словаре токенов модели образуют отдельные токены. Изменение внесено в слой преобразования на C++ и описано в примечаниях к выпуску.

## Факты

- Релиз с тегом b11707 опубликован 2026-10-17
- Поддержка увеличена с 66 до 255 уникальных однотокенных маркеров

## Почему это важно

Разработчики могут создавать более сложные промпты для принятия решений моделями Granite, не составляя списки токенов вручную.

## Источники и ссылки

1. [ggml-org/llama.cpp b11707](https://github.com/ggml-org/llama.cpp/releases/tag/b11707) – llama.cpp, 2026-10-17

Обновлено: 2026-10-17