Oossa

llama.cpp v0.?? удаляет устаревшие API и переносит NextN в основной заголовок

Библиотека llama.cpp с открытым исходным кодом удаляет старые функции и переносит API спекулятивной генерации NextN в основной заголовочный файл.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект ggml-org/llama.cpp выпустил новую версию 2026-11-13. В обновлении удалены несколько устаревших API, в том числе llama_set_warmup и параметр defrag_thold. API спекулятивной генерации NextN перенесён из дополнительного файла llama-ext.h в основной заголовочный файл llama.h, а связанные с ним функции переименованы. Также добавлена документация для функции llama_model_dflash_selector_top_k.

Почему это важно

Теперь разработчики могут использовать спекулятивную генерацию NextN напрямую через основной API, что упрощает код и позволяет меньше полагаться на устаревшие функции.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.