Oossa

Tencent выпустила GGUF-квантизированную модель Hy-Memory-30B-A3B

На Hugging Face доступны три версии (Q6_K, Q8_0 и Q4_K_M) для локального запуска через llama.cpp — они помогают эффективно записывать данные в долговременную память.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Tencent Hunyuan разместила на Hugging Face файлы модели Hy-Memory-30B-A3B в формате GGUF с квантованием. В репозитории представлены три варианта объёмом 24.7 GB (Q6_K), 32 GB (Q8_0) и 18.2 GB (Q4_K_M); все они прошли проверки llama.cpp. Модель выполняет роль модуля записи памяти в таких системах, как Mem0 и MemOS: она решает, какую информацию сохранить и как её обновлять. В тестах производителя версия Q6_K набрала больше всего баллов за качество, а Q4_K_M — самая компактная для скачивания.

Почему это важно

Разработчики могут запускать специализированную модель для долговременной памяти локально, без облачных ресурсов, экономя трафик и расходы на оборудование.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.