오픈소스 llama.cpp 라이브러리가 2026-10-15 버전 b11635를 공개했습니다. 이번 업데이트는 F16C 명령어 집합을 지원하는 x86 프로세서에서 CPU 코드가 FP16→FP32 조회 테이블을 유지하도록 변경했습니다. 이전 변경에서는 두 스칼라 변환 모두 F16C를 사용하도록 바뀌면서 Q8_0/Q4_0 행렬 곱셈 커널의 속도가 45-65 % 느려졌습니다. 이번 수정은 문제가 된 매크로 정의를 주석 처리하고 FP16→FP32 변환에 기존 테이블을 복원합니다.
왜 중요한가
llama.cpp를 사용하는 인텔 CPU 이용자는 업데이트 후 모델 추론 속도가 눈에 띄게 빨라집니다.