ओपन-सोर्स Llama इन्फ़रेंस लाइब्रेरी के b11555 अपडेट में AVX2 CPU पर F16C सपोर्ट न मिलने की समस्या ठीक की गई है। macOS, iOS और Linux के लिए नए बिल्ड भी जारी किए गए हैं।
संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना
ggml‑org ने llama.cpp का संस्करण b11555 जारी किया। इस अपडेट में वह बग ठीक किया गया है जिसके कारण AVX2 CPU उपलब्ध होने के बावजूद F16C इंस्ट्रक्शन सेट का इस्तेमाल नहीं करते थे। इस रिलीज़ में macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई कॉन्फ़िगरेशन के लिए नए बाइनरी पैकेज भी शामिल हैं। इनमें Vulkan और CUDA 12.8 का सपोर्ट भी है।
संगत CPU पर Llama मॉडल चलाने वाले डेवलपर बिना मैन्युअल पैच लगाए तेज़ इन्फ़रेंस पा सकेंगे।
मॉडल
Vals AI के अध्ययन के मुताबिक, कई एजेंटों वाली व्यवस्था एक अकेले मॉडल से पांच गुना तक ज्यादा टोकन खर्च कर सकती है, जबकि गुणवत्ता में सुधार बेहद मामूली रहता है।
मॉडल
Odyssey‑3 अब टेक्स्ट प्रॉम्प्ट से 3‑D दुनिया बना और चला सकता है। इसका मुफ्त ऑनलाइन डेमो उपलब्ध है और API एक्सेस के लिए आवेदन किया जा सकता है।
मॉडल
कंपनी के Claude-आधारित तीन एजेंटों वाले नए समीक्षक ने मुख्य दावों की 73.43% त्रुटियां पकड़ीं—पहले के सर्वश्रेष्ठ सिस्टम के 14.81% से कहीं अधिक।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
