Oossa

Обновление llama.cpp устраняет сбои графа сэмплирования

В выпуске от 9 октября 2026 года граф сэмплирования бэкенда остаётся статичным при обработке ubatch, что повышает надёжность на всех поддерживаемых платформах.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект ggml‑org/llama.cpp выпустил версию b11530 2026‑10‑09. Изменение сохраняет граф сэмплирования бэкенда статичным при обработке ubatch, поэтому его форма больше не меняется на этапах резервирования и декодирования. Это устраняет сбои, возникавшие при изменении топологии графа после его предварительного построения для резервирования. Исправление действует во всех указанных сборках — macOS, Linux, Android, Windows и openEuler — и для всех аппаратных бэкендов, включая CUDA, Vulkan и OpenCL.

Почему это важно

Разработчики, использующие llama.cpp, будут реже сталкиваться с ошибками во время выполнения при генерации нескольких выходных последовательностей на любом поддерживаемом CPU или GPU.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.