ओपन-सोर्स llama.cpp लाइब्रेरी अब WebGPU पर कई नए लो-प्रिसिज़न फ़ॉर्मैट सपोर्ट करती है। macOS, Linux और iOS के लिए बाइनरी भी उपलब्ध हैं।
संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना
ggml‑org टीम ने llama.cpp का संस्करण b11406 जारी किया है। इसमें MMVQ क्वांटाइज़ेशन पाथ Q1_0, Q5_0, Q5_1, Q3_K, Q5_K, Q6_K और MXFP4 के लिए WebGPU सपोर्ट जोड़ा गया है। इस रिलीज़ में macOS (Apple Silicon और Intel), iOS और Ubuntu के कई बिल्ड (CPU, Vulkan और CUDA) के लिए पहले से बने बाइनरी भी दिए गए हैं।
डेवलपर अब WebGPU इस्तेमाल करने वाले ब्राउज़र या GPU पर कम मेमोरी में चलने वाले ज़्यादा LLM चला सकते हैं। इससे llama.cpp को इस्तेमाल करने की जगहों का दायरा बढ़ता है।
मॉडल
Uber का कहना है कि पहले 1,000 कर्मचारियों के साथ किए गए परीक्षण के बाद अब उसके वैश्विक कर्मचारी ChatGPT Work का इस्तेमाल करेंगे। कंपनी ने इस विस्तार की लागत नहीं बताई है।
मॉडल
नया Forest Typology 2020 नक्शा 10 मीटर के हर भूखंड को प्राकृतिक, रोपित या खेती वाले वन के रूप में दिखाता है और 2017-2025 के सालाना बदलाव भी बताता है।
मॉडल
एक हनीपॉट ने ऐसा एजेंट प्रॉम्प्ट पकड़ा, जो खुले AI मॉडल पर कब्ज़ा कर उन्हें 100,000 चरणों तक हमले चलाने के लिए तैयार किया गया था। Symantec ने इसके टूल चलाए नहीं।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
