Oossa

Tencent pubblica Hy-Memory-30B-A3B quantizzato in GGUF

Disponibili tre versioni quantizzate (Q6_K, Q8_0 e Q4_K_M) per l’inferenza locale con llama.cpp e la gestione efficiente della memoria a lungo termine.

BreveDi Pubblicato da Oossa: 1 min di lettura

Tencent Hunyuan ha aggiunto su Hugging Face i file in formato GGUF quantizzati del modello Hy-Memory-30B-A3B. Il repository offre tre versioni: 24.7 GB (Q6_K), 32 GB (Q8_0) e 18.2 GB (Q4_K_M), tutte compatibili con i controlli di llama.cpp. Il modello funziona da gestore della memoria in framework come Mem0 e MemOS: decide quali informazioni conservare e come aggiornarle. Nei benchmark del produttore, la versione Q6_K ha ottenuto il punteggio di qualità più alto, mentre la Q4_K_M è quella da scaricare più piccola.

Perché conta

Gli sviluppatori possono eseguire localmente un modello specializzato nella memoria a lungo termine senza ricorrere al cloud, risparmiando banda e costi hardware.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.