Oossa

Tencent lança Hy-Memory-30B-A3B quantizado em GGUF no Hugging Face

Três versões quantizadas (Q6_K, Q8_0 e Q4_K_M) estão disponíveis para inferência local com llama.cpp e permitem gravar memórias de longo prazo com eficiência.

NotaPor Publicado pelo Oossa: 1 min de leitura

A Tencent Hunyuan adicionou ao Hugging Face arquivos quantizados em GGUF do modelo Hy-Memory-30B-A3B. O repositório oferece três tamanhos — 24.7 GB (Q6_K), 32 GB (Q8_0) e 18.2 GB (Q4_K_M) —, todos aprovados nos testes do llama.cpp. O modelo funciona como gravador de memória em estruturas como Mem0 e MemOS, decidindo quais informações manter e como atualizá-las. No benchmark da empresa, a versão Q6_K obteve a maior pontuação de qualidade, enquanto a Q4_K_M é a menor para baixar.

Por que importa

Os desenvolvedores podem executar localmente um modelo especializado em memória de longo prazo, sem depender de recursos na nuvem, economizando largura de banda e custos de hardware.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.