Le projet open source llama.cpp a publié une nouvelle version qui prend en charge classifier_pooling, un paramètre utilisé par les rerankers ModernBERT. La bibliothèque peut désormais lire et écrire le type de pooling, avec mean comme valeur par défaut lorsqu’aucun type n’est spécifié. Le champ interne est également renommé pooling_type_cls. La mise à jour est disponible sur un large éventail de systèmes d’exploitation et de matériels, des Mac équipés d’Apple Silicon aux GPU sous Linux et aux appareils Android.
Pourquoi c'est important
Cette évolution rend llama.cpp plus adapté aux tâches de recherche et de classement sur de nombreux appareils.
