El proyecto de código abierto llama.cpp publicó una nueva versión que añade compatibilidad con classifier_pooling, un ajuste que utilizan los rerankers ModernBERT. El cambio permite que la biblioteca lea y escriba el tipo de pooling, cuyo valor predeterminado es mean si no se especifica. También cambia el nombre del campo interno a pooling_type_cls. La actualización está disponible para una amplia variedad de sistemas operativos y equipos, desde Mac con Apple Silicon hasta GPU Linux y dispositivos Android.
Por qué importa
Hace que llama.cpp sea más útil para tareas de búsqueda y clasificación en distintos dispositivos.
