llama.cpp b11818 रिलीज़ में सर्वर के rerank endpoint पर टाइप वाली सामग्री के इनपुट का समर्थन जोड़ा गया है। मॉडल में rerank chat template न होने पर अब अपडेट मल्टीमॉडल rerank अनुरोधों को अस्वीकार करता है, जबकि पहले तस्वीरें चुपचाप हटा दी जाती थीं। अमान्य मीडिया डाउनलोड या base64 डेटा, और `top_n` की ऋणात्मक वैल्यू पर अब सर्वर त्रुटि के बजाय 400 त्रुटि मिलती है।
README में यह भी कहा गया है कि TEI इनपुट का फ़ॉर्मैट Jina जैसा ही है। रिलीज़ में कई ऑपरेटिंग सिस्टम और हार्डवेयर कॉन्फ़िगरेशन के लिए बिल्ड दिए गए हैं; स्रोत में प्रकाशन के समय के अलावा रिलीज़ की कोई तारीख नहीं बताई गई है।
यह क्यों मायने रखता है
llama.cpp के rerank endpoint का इस्तेमाल करने वाले डेवलपर अब टाइप वाली सामग्री भेज सकते हैं। जिन मॉडल में rerank chat template नहीं है, उनके लिए अनुरोध करने वालों को तस्वीरें चुपचाप अनदेखी होने के बजाय स्पष्ट अस्वीकृति मिलती है।
