Oossa

llama.cpp больше не перезаписывает занятые слоты

В выпуске от 10 октября 2026 года исправлена ошибка: новый запрос мог нарушить текущую генерацию, перезаписав кэш промпта.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект llama.cpp выпустил версию b11552 10 октября 2026 года. Изменение запрещает запросу обновлять кэш промпта в уже занятом слоте. Раньше занятый слот перезаписывался, из-за чего генерация продолжалась с неверным контекстом. Теперь занятый слот остаётся без изменений, а новый запрос ждёт, пока слот освободится.

Почему это важно

Разработчики, использующие llama.cpp, будут реже сталкиваться со сбоями генерации, когда несколько запросов используют одну и ту же память GPU.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.