Tencent Hunyuan, Hy-Memory-30B-A3B modelinin GGUF kuantizasyonlu dosyalarını Hugging Face’e ekledi. Depoda 24.7 GB (Q6_K), 32 GB (Q8_0) ve 18.2 GB (Q4_K_M) boyutlarında üç sürüm bulunuyor; tümü llama.cpp kontrollerini geçti. Model, Mem0 ve MemOS gibi çerçevelerde bir bellek yazıcısı olarak çalışıyor; hangi bilgilerin saklanacağına ve belleğin nasıl güncelleneceğine karar veriyor. Şirketin kıyaslama testinde en yüksek kalite puanını Q6_K sürümü alırken, indirmesi en küçük olan sürüm Q4_K_M oldu.
Neden önemli
Geliştiriciler, bulut kaynaklarına ihtiyaç duymadan uzun süreli bellek için özel olarak tasarlanmış bir modeli yerel olarak çalıştırabilir; böylece bant genişliği ve donanım maliyetlerinden tasarruf edebilir.
