Oossa

llama.cpp b11972 исправляет две ошибки выхода за границы буфера

В релизе ggml-org ограничили индексы слоёв для управляющих векторов и скорректировали циклы обработки позиций изображений, чтобы избежать записи за пределы выделенных буферов.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml-org выпустила llama.cpp b11972 с исправлениями двух ошибок, которые могли приводить к записи за пределы выделенных буферов. Одно исправление запрещает указывать для управляющих векторов номера слоёв выше их общего числа в модели; другое меняет циклы обработки позиций изображений в нескольких энкодерах изображений, чтобы они не выходили за число патчей, если сетка изображения не кратна размеру объединения. Теперь при построении графа для PaddleOCR также требуются изображения с размерами, кратными размеру объединения.

Почему это важно

При работе с моделями, обрабатывающими изображения или управляющие векторы, эти исправления могут помочь избежать повреждения памяти в описанных случаях, хотя в примечаниях к релизу не указано, как часто они возникают.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.