llama.cpp प्रोजेक्ट के नए संस्करण में SenseNova U1 की डेंस अंडरस्टैंडिंग शाखा को लोड और रन करने की सुविधा है। इसमें U1.5‑8B‑MoT मॉडल भी शामिल है, जिसे सामान्य CPU पर चलाया जा सकता है। अपडेट में मॉडल के विज़न एनकोडर के लिए कन्वर्ज़न टूल भी जोड़े गए हैं, जिससे किसी भी रिज़ॉल्यूशन की इमेज इनपुट दी जा सकती है। जनरेशन शाखाओं पर अब भी काम नहीं हो सकता, इसलिए यह अपडेट सिर्फ़ अंडरस्टैंडिंग से जुड़े कामों को सपोर्ट करता है। इन बदलावों के सह-लेखक Hugging Face के Sigbjørn Skjæret हैं।
यह क्यों मायने रखता है
अब CPU इस्तेमाल करने वाले लोग GPU के बिना हाई-रिज़ॉल्यूशन SenseNova U1 विज़न मॉडल चला सकते हैं।
