Açık kaynaklı llama.cpp projesi, ModernBERT reranker’larının kullandığı classifier_pooling ayarına destek ekleyen yeni bir sürüm yayımladı. Bu değişiklik, kütüphanenin pooling türünü okuyup yazabilmesini sağlıyor; ayar belirtilmediğinde varsayılan olarak mean kullanılıyor. Ayrıca dahili alanın adı pooling_type_cls olarak değiştirildi. Güncelleme, Apple Silicon Mac’lerden Linux GPU’larına ve Android cihazlara kadar çok çeşitli işletim sistemleri ve donanımlarda kullanılabiliyor.
Neden önemli
llama.cpp’yi birçok cihazda arama ve sıralama görevlerinde daha kullanışlı hâle getiriyor.
