ggml-org 팀이 2026년 10월 21일 llama.cpp 버전 b11790을 공개했다. 이번 업데이트는 Q4_0 양자화에 NEON 벡터화 repack을 적용하고, 다른 유형에는 멀티스레드 처리를 지원해 ARM CPU 성능을 높인다. 이제 macOS Apple Silicon, iOS 및 여러 Linux ARM 빌드용 사전 빌드 바이너리를 이용할 수 있다. 이번 변경에는 Qualcomm 엔지니어도 공동으로 기여했다. 이번 릴리스에는 Linux x64 및 arm64용 Vulkan 빌드도 포함됐다.
왜 중요한가
ARM 기반 노트북과 휴대폰에서 Llama 모델을 더 빠르게 실행할 수 있어, 기기 내 AI 활용이 한층 실용적이 된다.