Oossa

llama.cpp अपडेट में Hexagon NPU के लिए IM2COL_3D सपोर्ट

12 Oct, 2026 के अपडेट में 3D IM2COL कर्नेल और DMA पाथवे जोड़े गए हैं, जिससे Qualcomm Hexagon डिवाइस पर हार्डवेयर एक्सेलरेशन का दायरा बढ़ता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11560, 12 Oct, 2026 को जारी हुआ। इसमें Qualcomm के Hexagon NPU के लिए IM2COL_3D सपोर्ट जोड़ा गया है, जिसमें DMA पाथवे और FP16 हैंडलिंग से जुड़े सुधार शामिल हैं। इस बदलाव से कम कुशल लूप भी हटाए गए हैं और थ्रेड हैंडलिंग बेहतर हुई है। अपडेट कई प्लेटफ़ॉर्म के लिए उपलब्ध है—macOS और Windows CPU से लेकर Snapdragon CPU, Adreno GPU और Hexagon NPU वाले Android डिवाइस तक।

यह क्यों मायने रखता है

अब डेवलपर Hexagon NPU वाले Snapdragon फोन पर llama.cpp मॉडल तेज़ी से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।