Tencent Hunyuan ने अपने Hy-Memory-30B-A3B मॉडल की GGUF-क्वांटाइज़्ड फ़ाइलें Hugging Face पर उपलब्ध कराई हैं। रिपॉज़िटरी में तीन आकार हैं—24.7 GB (Q6_K), 32 GB (Q8_0) और 18.2 GB (Q4_K_M)—और सभी llama.cpp की जाँच में पास हुए हैं। Mem0 और MemOS जैसे फ्रेमवर्क में यह मॉडल मेमोरी राइटर की तरह काम करता है: यह तय करता है कि कौन-सी जानकारी रखनी है और उसे कैसे अपडेट करना है। कंपनी के बेंचमार्क में Q6_K संस्करण ने सबसे अधिक गुणवत्ता स्कोर हासिल किया, जबकि Q4_K_M संस्करण डाउनलोड के लिहाज़ से सबसे छोटा है।
यह क्यों मायने रखता है
डेवलपर लंबे समय तक मेमोरी बनाए रखने के लिए बने इस खास मॉडल को क्लाउड संसाधनों के बिना स्थानीय रूप से चला सकते हैं, जिससे बैंडविड्थ और हार्डवेयर की लागत बचती है।
