ओपन-सोर्स llama.cpp लाइब्रेरी में Metal GPU की उस गड़बड़ी को ठीक किया गया है, जिससे बड़े टेंसर का गुणा नहीं हो पाता था। macOS, iOS और Linux के लिए नए बाइनरी पैकेज जारी किए गए हैं।
संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना
ggml‑org टीम ने llama.cpp संस्करण b11575 जारी किया। इस अपडेट में Metal GPU kernel (kernel_mul_mm) की उस समस्या को ठीक किया गया है, जो बड़े टेंसर पर काम नहीं कर पाता था। यह सुधार macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई बिल्ड के नए बाइनरी पैकेज में शामिल है। यह रिलीज़ 12 Oct, 2026 को GitHub पर पोस्ट की गई।
डेवलपर अब Apple Silicon Mac पर GPU क्रैश के बिना बड़े भाषा मॉडल चला सकते हैं।
मॉडल
Meta के नए Muse Wonder और Muse Wonder Full मॉडल अग्रणी AI मॉडल्स में शामिल हैं, लेकिन इनके प्रति टोकन शुल्क अधिक हैं।
मॉडल
AMD के Helion रेफरेंस रैक में 32,768 तक Zen 6 कोर होंगे। यह अगले साल सिर्फ CPU और ऑल-इन-वन, दोनों रूपों में उपलब्ध होगा।
मॉडल
Vals AI के अध्ययन के मुताबिक, कई एजेंटों वाली व्यवस्था एक अकेले मॉडल से पांच गुना तक ज्यादा टोकन खर्च कर सकती है, जबकि गुणवत्ता में सुधार बेहद मामूली रहता है।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
