오픈소스 llama.cpp 라이브러리가 Oct 15, 2026에 b11632 버전을 공개했습니다. 이번 업데이트는 CUDA와 HIP 모두에 청크형 GDN(Gaussian-Diffusion-Normalization) 커널을 추가해 GPU 지원을 개선합니다. 정확성 및 프리필 벤치마크를 거쳐 RTX 3090과 RTX 4090을 포함한 테스트 대상 Ampere·Ada GPU에서 SM86 및 SM89 명령어 세트를 활성화했습니다. 이전 빌드의 수정 사항도 반영했으며, GDN MMA(행렬 곱셈 누적) 단계에는 리팩터링된 스위즐 API를 사용합니다.
왜 중요한가
개발자는 최신 Nvidia GPU에서 더 빠르고 안정적인 llama.cpp 추론을 구현할 수 있습니다.