ओपन-सोर्स LLaMA इन्फरेंस लाइब्रेरी में ARM SVE और i8mm के लिए तेज़ क्वांटाइज़्ड कर्नेल जोड़े गए हैं। macOS, iOS और Ubuntu के लिए नए बाइनरी भी उपलब्ध हैं।
संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना
llama.cpp प्रोजेक्ट ने 22 अक्तूबर 2026 को b11811 संस्करण जारी किया। इस अपडेट में Q8_0 SVE dot-product GEMV और SVE i8mm GEMM कर्नेल जोड़े गए हैं, जो ARM CPU पर क्वांटाइज़्ड मॉडल के इन्फरेंस को तेज़ करते हैं। macOS Apple Silicon, Intel, iOS और Ubuntu के कई बिल्ड (CPU, Vulkan, CUDA 12.8) के लिए पहले से तैयार बाइनरी अब डाउनलोड के लिए उपलब्ध हैं।
डेवलपर नए ARM हार्डवेयर और Linux GPU पर बिना कस्टम कोड लिखे LLaMA मॉडल तेज़ी से चला सकते हैं।
मॉडल
Uber का कहना है कि पहले 1,000 कर्मचारियों के साथ किए गए परीक्षण के बाद अब उसके वैश्विक कर्मचारी ChatGPT Work का इस्तेमाल करेंगे। कंपनी ने इस विस्तार की लागत नहीं बताई है।
मॉडल
नया Forest Typology 2020 नक्शा 10 मीटर के हर भूखंड को प्राकृतिक, रोपित या खेती वाले वन के रूप में दिखाता है और 2017-2025 के सालाना बदलाव भी बताता है।
मॉडल
एक हनीपॉट ने ऐसा एजेंट प्रॉम्प्ट पकड़ा, जो खुले AI मॉडल पर कब्ज़ा कर उन्हें 100,000 चरणों तक हमले चलाने के लिए तैयार किया गया था। Symantec ने इसके टूल चलाए नहीं।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
