Oossa

llama.cpp b11496 में SYCL बल्क अपलोड सपोर्ट

ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11496, 8 Oct 2026 को जारी हुआ। इसमें पिन किए गए रिंग बफ़र के ज़रिए SYCL-आधारित बल्क मॉडल लोडिंग की सुविधा जोड़ी गई है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org टीम ने 8 Oct 2026 को llama.cpp b11496 जारी किया। इस अपडेट में SYCL का एक चरण जोड़ा गया है, जो पिन किए गए रिंग बफ़र के ज़रिए मॉडल का बल्क अपलोड करता है और संगत GPU पर लोडिंग तेज़ बनाता है। macOS (Apple Silicon और Intel), iOS और Ubuntu के कई बिल्ड (CPU, Vulkan, CUDA 12) के बाइनरी डाउनलोड के लिए उपलब्ध हैं।

यह क्यों मायने रखता है

SYCL-संगत हार्डवेयर पर डेवलपर बड़े भाषा मॉडल तेज़ी से लोड कर सकते हैं, जिससे llama.cpp इस्तेमाल करने वाले ऐप्स का स्टार्टअप समय घटता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।