오픈소스 llama.cpp 라이브러리가 2026년 10월 21일 버전 b11761을 출시했습니다. 이번 업데이트는 NEON 경로를 수정해 fp32→fp16 변환에 소프트웨어 대체 방식 대신 하드웨어 명령어를 사용하도록 했습니다. 비슷한 매크로 불일치를 찾아낼 수 있도록 컴파일 시 오류를 발생시키는 기능도 추가했습니다. 릴리스 노트에 명시된 macOS Apple Silicon, Linux ARM64, Android ARM 기기에 적용됩니다.
왜 중요한가
ARM 기반 기기에서 라이브러리가 프로세서의 기본 반정밀도 변환 기능을 사용하게 돼 모델 추론 속도가 빨라집니다.