Вышла новая версия проекта с открытым исходным кодом llama.cpp: в ней появилась поддержка classifier_pooling — настройки, используемой реранкерами ModernBERT. Теперь библиотека умеет считывать и записывать тип пулинга; если он не указан, по умолчанию используется mean. Кроме того, внутреннее поле переименовали в pooling_type_cls. Обновление доступно для широкого спектра операционных систем и устройств — от Mac на Apple Silicon до графических процессоров под управлением Linux и устройств на Android.
Почему это важно
Это расширяет возможности llama.cpp для задач поиска и ранжирования на самых разных устройствах.
