Oossa

llama.cpp b12425 добавляет поддержку Qwen3-ForcedAligner

Теперь llama.cpp считывает размер выходного слоя Qwen3-VL из тензора, чтобы обрабатывать более короткий вывод временных меток Qwen3-ForcedAligner.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Вышла версия llama.cpp b12425. В ней появилась возможность считывать размер выходного слоя Qwen3-VL напрямую из тензора модели. Это обеспечивает поддержку Qwen3-ForcedAligner, выходной слой которого содержит 5,000 классов временных меток — меньше, чем словарь модели.

Почему это важно

Теперь пользователи могут запускать Qwen3-ForcedAligner в llama.cpp, даже если вывод временных меток модели меньше её словаря. В примечаниях к выпуску требования к настройке не указаны.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.