Tencent Hunyuan ha aggiunto su Hugging Face i file in formato GGUF quantizzati del modello Hy-Memory-30B-A3B. Il repository offre tre versioni: 24.7 GB (Q6_K), 32 GB (Q8_0) e 18.2 GB (Q4_K_M), tutte compatibili con i controlli di llama.cpp. Il modello funziona da gestore della memoria in framework come Mem0 e MemOS: decide quali informazioni conservare e come aggiornarle. Nei benchmark del produttore, la versione Q6_K ha ottenuto il punteggio di qualità più alto, mentre la Q4_K_M è quella da scaricare più piccola.
Perché conta
Gli sviluppatori possono eseguire localmente un modello specializzato nella memoria a lungo termine senza ricorrere al cloud, risparmiando banda e costi hardware.