Tencent Hunyuan hat GGUF-quantisierte Dateien seines Modells Hy-Memory-30B-A3B auf Hugging Face veröffentlicht. Das Repository bietet drei Größen: 24.7 GB (Q6_K), 32 GB (Q8_0) und 18.2 GB (Q4_K_M). Alle bestehen die Prüfungen von llama.cpp. Das Modell dient in Frameworks wie Mem0 und MemOS als Gedächtnisschreiber: Es entscheidet, welche Informationen gespeichert und wie sie aktualisiert werden. Im Benchmark des Anbieters erzielte die Q6_K-Version den höchsten Qualitätswert, während die Q4_K_M-Version den kleinsten Download bietet.
Warum es wichtig ist
Entwickler können ein spezialisiertes Langzeitgedächtnismodell lokal ausführen, ohne auf Cloud-Ressourcen angewiesen zu sein. Das spart Bandbreite und Hardwarekosten.
