Oossa

llama.cpp में Qualcomm Adreno X1 GPU के लिए OpenCL kernel

17 Oct 2026 को जारी संस्करण b11702 में नया MxFP4 MoE बिन kernel शामिल है, जो Adreno X1 डिवाइस पर LLM inference को तेज़ करता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org/llama.cpp प्रोजेक्ट ने 17 Oct 2026 को संस्करण b11702 जारी किया। इस अपडेट में Qualcomm Adreno X1 GPU के लिए `gemm_moe_mxfp4_q8_1_dp4a_ila_ldck` नाम का OpenCL kernel जोड़ा गया है। यह बदलाव OpenCL में किए गए कई सुधारों का हिस्सा है, जिनमें whitespace ठीक करना और X1E के लिए DP4A सपोर्ट शामिल हैं। macOS, iOS और Ubuntu के कई संस्करणों के लिए बाइनरी बिल्ड भी उपलब्ध कराए गए हैं।

यह क्यों मायने रखता है

इस kernel की मदद से डेवलपर Adreno X1 GPU वाले Android फोन पर LLM तेज़ी से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।