ggml-org выпустила llama.cpp b12029 — новую версию программы для запуска языковых моделей. В примечаниях к выпуску указано одно изменение: исправлен порядок токена CLS в InternVL — специального токена, который используется при обработке мультимодальных данных. Доступны сборки для macOS, iOS и нескольких конфигураций Linux, в том числе для CPU и Vulkan. В примечаниях не уточняется, на каких пользователях или задачах скажется это исправление.
Почему это важно
Исправление может быть полезно тем, кто запускает InternVL через llama.cpp, однако в примечаниях не описаны его практический эффект и область применения.
