Команда ggml-org выпустила llama.cpp b11972 с исправлениями двух ошибок, которые могли приводить к записи за пределы выделенных буферов. Одно исправление запрещает указывать для управляющих векторов номера слоёв выше их общего числа в модели; другое меняет циклы обработки позиций изображений в нескольких энкодерах изображений, чтобы они не выходили за число патчей, если сетка изображения не кратна размеру объединения. Теперь при построении графа для PaddleOCR также требуются изображения с размерами, кратными размеру объединения.
Почему это важно
При работе с моделями, обрабатывающими изображения или управляющие векторы, эти исправления могут помочь избежать повреждения памяти в описанных случаях, хотя в примечаниях к релизу не указано, как часто они возникают.