오픈소스 llama.cpp 라이브러리가 2026년 10월 16일 버전 b11680을 공개했습니다. 이번 업데이트에서는 Hexagon NPU 코드를 전면 개편해 기존의 편법을 제거하고, F16/F32/BF16 가중치의 텐서 재패킹을 추가했으며 타일형 Q5_K get-rows와 원시 k-quant 텐서를 지원합니다. 내부 커널도 다수 정리하고 CPU, CUDA, Vulkan, Hexagon 지원 기기를 비롯한 여러 백엔드의 성능을 개선했습니다. 프로젝트는 macOS, Linux, Android, Windows 및 여러 openEuler 구성용 빌드를 제공합니다.
왜 중요한가
개발자는 이제 Hexagon 기반 스마트폰과 기타 특수 하드웨어에서 llama.cpp 모델을 더 효율적으로 실행할 수 있습니다.