ओपन-सोर्स प्रोजेक्ट llama.cpp ने नया संस्करण जारी किया है, जिसमें ModernBERT reranker की सेटिंग classifier_pooling के लिए सपोर्ट जोड़ा गया है। इस बदलाव से लाइब्रेरी pooling type को पढ़ और लिख सकती है। अगर यह तय न हो, तो डिफ़ॉल्ट रूप से mean का इस्तेमाल होगा। साथ ही, आंतरिक फ़ील्ड का नाम बदलकर pooling_type_cls कर दिया गया है। यह अपडेट Apple Silicon Mac से लेकर Linux GPU और Android डिवाइस तक, कई तरह के ऑपरेटिंग सिस्टम और हार्डवेयर पर उपलब्ध है।
यह क्यों मायने रखता है
इससे कई डिवाइस पर सर्च और रैंकिंग के कामों के लिए llama.cpp का इस्तेमाल आसान होगा।
