В выпуске llama.cpp b11818 добавлена поддержка типизированного контента в конечной точке сервера для переранжирования. Обновление также отклоняет запросы на мультимодальное переранжирование, если у модели нет чат-шаблона для переранжирования, вместо того чтобы молча отбрасывать изображения. При ошибках загрузки медиафайлов или данных в формате base64, а также при отрицательном значении `top_n` теперь возвращается ошибка 400, а не ошибка сервера.
В README также указано, что входные данные TEI принимают тот же формат, что и Jina. В выпуске перечислены сборки для нескольких операционных систем и аппаратных конфигураций; дата выпуска, помимо временной метки публикации, не указана.
Почему это важно
Разработчики, использующие конечную точку llama.cpp для переранжирования, могут отправлять типизированный контент. Если же у модели нет чат-шаблона для переранжирования, запрос будет явно отклонён, а изображения не будут молча проигнорированы.
