llama.cpp प्रोजेक्ट ने नया संस्करण (b11707) जारी किया है, जिसमें GraniteSwitchDecisionFullOptions नाम का फीचर जोड़ा गया है। इसके तहत हर स्विच मॉडल में पहले के 66 के बजाय 256 तक अलग-अलग सिंगल-टोकन चिह्न इस्तेमाल किए जा सकते हैं। कोड मॉडल की शब्दावली में यह अपने-आप पहचानता है कि कौन-से अक्षर सिंगल-टोकन प्रविष्टियां बनाते हैं। यह बदलाव C++ कन्वर्ज़न लेयर में किया गया है और रिलीज़ नोट्स में दर्ज है।
यह क्यों मायने रखता है
डेवलपर टोकन सूचियां हाथ से तैयार किए बिना Granite मॉडल के लिए अधिक समृद्ध निर्णय-निर्माण प्रॉम्प्ट बना सकते हैं।
