Oossa

llama.cpp, GQA와 새 토크나이저 지원 추가

오픈소스 llama.cpp 라이브러리가 비표준 GQA 모델과 BPE 토크나이저를 지원하고, 더 다양한 플랫폼용 빌드를 제공합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org 팀은 2026-10-22 llama.cpp 버전 b11819를 출시했습니다. 이번 업데이트에는 비표준 GQA(그룹화된 쿼리 어텐션) 모델과 BPE(바이트 페어 인코딩) 토크나이저 지원, 새 domyn‑small pre-type이 포함됐습니다. Metaspace 접두어 방식의 메타데이터 처리 기능도 추가됐습니다. 빌드 대상 목록도 Apple Silicon, CUDA 12/13, Vulkan, ROCm, Android Snapdragon 등 다양한 CPU 및 GPU 플랫폼으로 확대됐습니다.

왜 중요한가

개발자는 GQA를 사용하는 모델을 비롯해 더 다양한 LLM을 스마트폰과 GPU 등 더 많은 기기에서 실행할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.