30 सितंबर, 2026 के रिलीज़ में Vulkan टाइल चयन को बेहतर बनाया गया है, जिससे Mixture-of-Experts मॉडल में बेकार काम कम होता है।
संक्षिप्तOossa1 मिनट पढ़ना
ओपन-सोर्स llama.cpp लाइब्रेरी में MoE-अनुकूल मैट्रिक्स गुणा के लिए Vulkan सुधार जोड़ा गया है। इस बदलाव में mat_mul_id ऑपरेशन के लिए टाइल आकार चुनने का तरीका बदला गया है, ताकि वह हर एक्सपर्ट के लिए सक्रिय पंक्तियों की वास्तविक संख्या के अनुरूप हो। 30 अरब पैरामीटर वाले मॉडल पर किए गए परीक्षण में इस सुधार से GPU का वह निष्क्रिय काम कम हुआ, जो रनटाइम का 55% ले रहा था।
GPU का कम निष्क्रिय समय मतलब Vulkan-संगत हार्डवेयर पर चलने वाले बड़े MoE मॉडल तेज़ी से अनुमान दे सकेंगे।
मॉडल
OpenAI का नया GPT‑6.1 Sol प्रति दस लाख टोकन पर $2-$10 की दर बरकरार रखता है और बेहतर प्रदर्शन का दावा करता है—इससे Anthropic के Claude और DeepSeek मॉडल की तुलना में कीमत और कम हो जाती है।
मॉडल
नए v4 और v4 Turbo वॉइस की कीमत 1,000 अक्षरों के लिए क्रमशः $0.08 और $0.04 है। 12 अक्टूबर तक प्रचार के तहत ये दरें घटकर $0.022 और $0.011 रहेंगी।
मॉडल
Oracle का नया Fusion Claw रनटाइम उसके Fusion ऐप्स को स्टाफिंग और अकाउंटिंग जैसे कई चरणों वाले काम करने देता है। इसमें तर्क के लिए AI का इस्तेमाल होता है, जबकि गणनाएं मॉडल के बाहर की जाती हैं।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
| # | स्रोत | प्रकाशक | तारीख | मुख्य बात |
|---|---|---|---|---|
| 1 | ggml-org/llama.cpp b11265 ↗ | llama.cpp | 29 सित॰ 2026 | <details open> vulkan: MOE aware mat_mul_id tile selection (#29182) mut_mul_id selected its matmul tile with total token count. |
1 स्रोत
