오픈소스 LLaMA 추론 라이브러리에 q4_0, q4_k, q6_k 형식을 위한 cooperative-k DP4A GEMM 지원이 추가됐다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org/llama.cpp 프로젝트가 2026-10-19에 버전 b11741을 공개했다. 이번 버전에는 DP4A 명령어를 사용해 세 가지 양자화 형식(q4_0, q4_k, q6_k)의 행렬 곱셈을 가속하는 새로운 OpenCL 커널이 추가됐다. 정렬 문제도 수정했으며, macOS(Apple Silicon 및 Intel)와 Vulkan 빌드를 포함한 여러 Ubuntu 대상의 사전 빌드 바이너리도 함께 제공한다.
개발자는 OpenCL 호환 GPU에서 LLaMA 모델을 더 빠르게 실행할 수 있어 로컬 추론을 더 실용적으로 활용할 수 있다.
모델
중국 기업 MiniMax가 더 저렴하면서 추론 성능은 높아진 M3.1 Flash를 출시했다. 오픈 웨이트는 2026년 10월 23일 공개될 예정이다.
모델
Mistral AI가 5M~209M 매개변수로 구성된 시계열 모델 제품군 Timestral을 공개했다. 여러 벤치마크에서 Google의 TimesFM‑3를 앞섰으며 CPU에서도 실행된다.
모델
Gemini 4 Argon 기반 AI 에이전트 4개가 무작위 마인크래프트 세계를 탐험하고 서로 협력해 사람의 지시 없이 엔더 드래곤을 처치했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
