Oossa

llama.cpp v0.13 में तेज़ बाइनरी ऑपरेशन के लिए बढ़ा DMA सपोर्ट

ओपन-सोर्स llama.cpp लाइब्रेरी का नया संस्करण 13 अक्टूबर 2026 को जारी हुआ। इसमें कई प्लेटफ़ॉर्म पर बाइनरी ऑपरेशन के लिए DMA ब्रॉडकास्टिंग का दायरा बढ़ाया गया है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org टीम ने 13 अक्टूबर 2026 को llama.cpp रिलीज़ b11580 प्रकाशित की। इस अपडेट में बाइनरी ऑपरेशन के लिए विस्तारित स्केलर DMA (डायरेक्ट मेमोरी एक्सेस) सपोर्ट जोड़ा गया है, जिसमें repeat और complex data के लिए नए kernels शामिल हैं। इसके अलावा, गैर-DMA पाथ को बेहतर बनाया गया है और non-contiguous strides का सपोर्ट जोड़ा गया है। इन बदलावों का असर Linux, Windows, macOS और Android पर CPU, CUDA, Vulkan और Hexagon NPU builds पर पड़ता है। अब डेवलपर Apple Silicon से लेकर Snapdragon चिप्स तक के डिवाइसों पर अधिक कुशलता से tensor गणनाएं कर सकते हैं।

यह क्यों मायने रखता है

डेवलपर कई तरह के हार्डवेयर पर llama.cpp मॉडल तेज़ी से चला सकते हैं, जिससे अंतिम उपयोगकर्ताओं के लिए inference time घट सकता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।