Oossa

llama.cpp 업데이트, 인텔 CPU의 FP16→FP32 변환 속도 회복

2026년 10월 15일 공개된 b11635는 x86에서 FP16→FP32 조회 테이블을 유지해 양자화 커널의 속도 저하를 해결합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈소스 llama.cpp 라이브러리가 2026-10-15 버전 b11635를 공개했습니다. 이번 업데이트는 F16C 명령어 집합을 지원하는 x86 프로세서에서 CPU 코드가 FP16→FP32 조회 테이블을 유지하도록 변경했습니다. 이전 변경에서는 두 스칼라 변환 모두 F16C를 사용하도록 바뀌면서 Q8_0/Q4_0 행렬 곱셈 커널의 속도가 45-65 % 느려졌습니다. 이번 수정은 문제가 된 매크로 정의를 주석 처리하고 FP16→FP32 변환에 기존 테이블을 복원합니다.

왜 중요한가

llama.cpp를 사용하는 인텔 CPU 이용자는 업데이트 후 모델 추론 속도가 눈에 띄게 빨라집니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.