Oossa

Tencent、GGUF量子化版「Hy-Memory-30B-A3B」を公開

Q6_K、Q8_0、Q4_K_Mの3種類を用意。llama.cppで動作し、長期記憶の効率的な書き込みに利用できる。

短信著者: Oossa公開日: 1 分で読める

Tencent Hunyuanは、同社の「Hy-Memory-30B-A3B」のGGUF量子化ファイルをHugging Faceで公開した。リポジトリには、24.7 GB(Q6_K)、32 GB(Q8_0)、18.2 GB(Q4_K_M)の3種類があり、いずれもllama.cppのチェックを通過している。このモデルはMem0やMemOSなどのフレームワーク内でメモリーを書き込む役割を担い、どの情報を保持し、どう更新するかを判断する。同社のベンチマークではQ6_K版が最も高い品質スコアを記録し、Q4_K_M版はダウンロード容量が最小となっている。

なぜ重要か

開発者はクラウドリソースを使わずに、長期記憶に特化したモデルをローカルで実行できる。帯域幅やハードウェアのコスト削減につながる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。