Oossa

腾讯在 Hugging Face 发布 GGUF 量化版 Hy-Memory-30B-A3B

提供 Q6_K、Q8_0 和 Q4_K_M 三种量化版本,可通过 llama.cpp 本地推理,高效写入长期记忆。

简讯作者: Oossa 发布日期: 1 分钟阅读

Tencent Hunyuan 已在 Hugging Face 上发布 Hy-Memory-30B-A3B 模型的 GGUF 量化文件。仓库提供三种大小的版本:24.7 GB(Q6_K)、32 GB(Q8_0)和 18.2 GB(Q4_K_M),均通过了 llama.cpp 检查。该模型可作为 Mem0、MemOS 等框架中的记忆写入器,负责判断保留哪些信息以及如何更新记忆。在厂商的基准测试中,Q6_K 版本的质量得分最高,而 Q4_K_M 版本的下载体积最小。

为什么重要

开发者无需依赖云端资源,就能在本地运行专用的长期记忆模型,节省带宽和硬件成本。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。