Проект ggml‑org/llama.cpp выпустил версию b11633 15 октября 2026 года. В обновлении изменён способ выделения буфера преобразования для операции SET_ROWS: теперь каждому потоку выделяется отдельная область памяти. Раньше все потоки, кроме первого, записывали данные за пределами буфера, что приводило к сбоям при многопоточной работе. Исправление запускает SET_ROWS с одной задачей на каждый поток, благодаря чему размер буфера соответствует числу потоков.
Почему это важно
Разработчики, использующие llama.cpp на многоядерных процессорах, столкнутся с меньшим числом сбоев при параллельном запуске моделей.