संक्षिप्त · 1 मिनट पढ़ना
RTX 3090 पर Swift 1.5 ने बेंचमार्क कार्यों का समय घटाया
Reddit के एक उपयोगकर्ता के मुताबिक, संशोधित Swift 1.5 मॉडल ने एक RTX 3090 पर HyperQwen के मूल सेटअप की तुलना में बेंचमार्क कार्य करीब 37% तेज़ी से पूरे किए। गुणवत्ता की जांच में नतीजों में मामूली अंतर भी दिखा।
Oossa · Oossa के बारे में
Reddit के एक उपयोगकर्ता का कहना है कि HyperQwen के लिए अनुकूलित Swift 1.5 मॉडल ने प्रति कार्य औसतन 68.2 सेकंड लिए, जबकि HyperQwen के फास्ट-क्वांटाइज़्ड Qwen मॉडल को 108.1 सेकंड लगे। परीक्षण 24GB मेमोरी वाले एक RTX 3090 पर, 150,000 टोकन का कॉन्फ़िगर किया हुआ कॉन्टेक्स्ट इस्तेमाल करके किए गए।
पोस्ट करने वाले के मुताबिक, संशोधित मॉडल कुल मिलाकर तेज़ था, क्योंकि उसने कम टोकन बनाए—हालांकि उसकी डिकोडिंग गति थोड़ी कम थी। बताए गए कई परीक्षणों में स्कोर करीब थे, लेकिन एक जैसे नहीं। उदाहरण के लिए, INT4 आउटपुट लेयर्स वाले Swift 1.5 ने 100 समस्याओं की कोडिंग जांच में 91% स्कोर किया, जबकि HyperQwen का स्कोर 89% रहा।
यह क्यों मायने रखता है
अगर पोस्ट करने वाले के नतीजे दूसरे परीक्षणों में भी सही साबित होते हैं, तो इससे संकेत मिलता है कि मॉडल को ट्यून करके उपभोक्ता हार्डवेयर पर स्थानीय AI कार्यों में लगने वाला समय और टोकन कम किए जा सकते हैं।
स्रोत और संदर्भ
| # | स्रोत | प्रकाशक | तारीख | मुख्य बात |
|---|---|---|---|---|
| 1 | Swift 1.5 + HyperQwen = 37% less task completion time at 100+ tps w/ 150k context on RTX 3090 ↗ | Reddit r/LocalLLaMA | 28 सित॰ 2026 | Hi everyone :) The amazing Swift finetunes of Qwen3.8 27B generate much fewer tokens at mostly similar benchmark performance to the original |
1 स्रोत
अंतिम अपडेट:
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।