llama.cpp 프로젝트가 Qualcomm의 Hexagon NPU에서 SSM_SCAN 연산을 지원하는 새 버전을 출시했습니다. 이번 업데이트에는 커널 최적화, DMA 파이프라인 변경, HMX 지원이 포함됩니다. CUDA 13 지원과 새로운 Snapdragon CPU·GPU·NPU 구성도 추가해 플랫폼 빌드 범위를 넓혔습니다. Qualcomm의 Max Krasnyansky가 이번 변경 사항의 공동 작성자로 참여했습니다.
왜 중요한가
개발자는 Hexagon NPU를 탑재한 Snapdragon 휴대폰에서 llama.cpp 모델을 더 빠르게 실행할 수 있습니다.