llama.cpp, x86 CPU용 tinyBLAS에 BF16·FP16 지원 추가

오픈소스 llama.cpp 라이브러리가 tinyBLAS 백엔드에서 BF16, FP16, FP32 잔여 데이터를 벡터화해 CPU 추론 속도를 높입니다.

짧은 소식OossaOossa 게시일: 2026년 10월 4일 오후 8:06 UTC1 분 읽기

ggml-org 팀이 llama.cpp 버전 b11398을 출시했습니다. 이번 버전은 x86 플랫폼의 tinyBLAS CPU 백엔드에서 BF16, FP16, FP32 잔여 데이터를 처리하도록 지원합니다. 계산 속도를 높이기 위해 이러한 잔여 데이터 처리도 벡터화했습니다. macOS(Apple Silicon 및 Intel), iOS, 여러 Ubuntu 아키텍처용 사전 빌드 바이너리도 제공됩니다. 이번 업데이트에는 참조 구현을 사용할 때 정확하게 비교할 수 있도록 테스트를 조정한 내용도 포함됐습니다.