Q6_K, Q8_0, Q4_K_M 세 가지 버전을 제공해 llama.cpp로 로컬 추론을 실행하고 장기 기억을 효율적으로 작성할 수 있다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Tencent Hunyuan이 Hy‑Memory‑30B‑A3B 모델의 GGUF 양자화 파일을 Hugging Face에 추가했다. 저장소에는 24.7 GB(Q6_K), 32 GB(Q8_0), 18.2 GB(Q4_K_M) 등 세 가지 크기의 파일이 있으며, 모두 llama.cpp 검증을 통과했다. 이 모델은 Mem0, MemOS 같은 프레임워크에서 기억을 작성하는 역할을 맡아 어떤 정보를 저장하고 어떻게 갱신할지 결정한다. Tencent의 벤치마크에서는 Q6_K 버전이 가장 높은 품질 점수를 기록했고, Q4_K_M 버전은 다운로드 용량이 가장 작다.
개발자는 클라우드 자원 없이도 장기 기억에 특화된 모델을 로컬에서 실행할 수 있어 대역폭과 하드웨어 비용을 줄일 수 있다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
