Проект llama.cpp выпустил предварительную версию b12091 4 ноября 2026 года. Главное изменение — сохранение и восстановление скрытого состояния MTP, метода спекулятивного декодирования, при создании контрольных точек. Согласно примечаниям к выпуску, сохраняется только граничная строка скрытого состояния; строки проверки заново формируются при поддерживаемых сценариях восстановления.
В выпуск вошли сборки для macOS, iOS, Linux, Android и Windows, в том числе варианты для разных процессоров и ускорителей. В примечаниях не описано, как это изменение влияет на производительность.
Почему это важно
Для разработчиков, использующих MTP в llama.cpp, это изменение влияет на сохранение скрытого состояния при поддерживаемом восстановлении. В примечаниях к выпуску не указано, повышает ли оно скорость или надёжность.
