Oossa

Tencent publie Hy-Memory-30B-A3B quantifié au format GGUF

Trois versions quantifiées (Q6_K, Q8_0, Q4_K_M) sont disponibles pour l’inférence locale avec llama.cpp et permettent de gérer efficacement l’écriture de mémoires à long terme.

BrèvePar Publié par Oossa: 1 min de lecture

Tencent Hunyuan a ajouté sur Hugging Face des fichiers au format GGUF quantifiés de son modèle Hy-Memory-30B-A3B. Le dépôt propose trois tailles — 24.7 GB (Q6_K), 32 GB (Q8_0) et 18.2 GB (Q4_K_M) — toutes validées par les tests de llama.cpp. Le modèle sert à écrire les mémoires au sein de frameworks comme Mem0 et MemOS : il détermine quelles informations conserver et comment les mettre à jour. Dans le benchmark du fournisseur, la version Q6_K a obtenu le meilleur score de qualité, tandis que la version Q4_K_M est la moins volumineuse à télécharger.

Pourquoi c'est important

Les développeurs peuvent exécuter localement un modèle spécialisé dans la mémoire à long terme sans recourir au cloud, ce qui réduit la consommation de bande passante et les coûts matériels.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.