Oossa

Обновление llama.cpp устраняет переполнение буфера в многопоточном режиме

В версии от 15 октября 2026 года исправлена ошибка, из-за которой потоки выходили за границы буфера преобразования. Это повышает стабильность работы на многоядерных процессорах.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект ggml‑org/llama.cpp выпустил версию b11633 15 октября 2026 года. В обновлении изменён способ выделения буфера преобразования для операции SET_ROWS: теперь каждому потоку выделяется отдельная область памяти. Раньше все потоки, кроме первого, записывали данные за пределами буфера, что приводило к сбоям при многопоточной работе. Исправление запускает SET_ROWS с одной задачей на каждый поток, благодаря чему размер буфера соответствует числу потоков.

Почему это важно

Разработчики, использующие llama.cpp на многоядерных процессорах, столкнутся с меньшим числом сбоев при параллельном запуске моделей.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.