Oossa

llama.cpp में LFM2 टाइलिंग और नए प्लेटफ़ॉर्म बिल्ड का समर्थन

ओपन-सोर्स LLM रनटाइम अब GGUF फ़ाइलों से टाइलिंग पैरामीटर पढ़ता है और कई नए CPU, GPU और OS के लिए बाइनरी उपलब्ध कराता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org टीम ने llama.cpp को अपडेट किया है, ताकि वह GGUF मेटाडेटा से LFM2‑VL की टाइलिंग सेटिंग पढ़ सके। इससे मॉडल, मॉडल फ़ाइल में मौजूद min_tiles, max_tiles, tile_size और max_pixels_tolerance मानों के आधार पर छवियों को टाइलों में बाँट सकता है। इस रिलीज़ में कई तरह के प्लेटफ़ॉर्म—macOS, Linux, Windows, Android—और CUDA 13, Vulkan व OpenCL जैसे हार्डवेयर एक्सेलरेटर के लिए पहले से संकलित बाइनरी भी शामिल हैं।

यह क्यों मायने रखता है

डेवलपर अब कस्टम टाइलिंग कोड लिखे बिना ज़्यादा डिवाइसों पर इमेज-प्रोसेसिंग LLM चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।