llama.cpp b11713, CUDA 저비트 연산 속도 개선

오픈소스 llama.cpp 라이브러리가 2026년 10월 17일 b11713을 공개했다. CUDA GPU의 저비트 행렬-벡터 연산을 가속하고 새 바이너리 빌드를 추가했다.

짧은 소식작성: OossaOossa 게시일: 2026년 10월 17일 오후 4:09 UTC1 분 읽기

ggml-org 팀이 2026년 10월 17일 llama.cpp 버전 b11713을 공개했다. 이번 업데이트는 더 빠른 MMVQ 알고리즘을 적용해 저비트 데이터 형식의 CUDA 성능을 개선한다. Q3_K 및 Q6_K 양자화에서 HIP(AMD) GPU를 위한 소규모 수정도 포함됐다. macOS, iOS와 여러 Ubuntu 대상(CPU, Vulkan, CUDA)의 사전 빌드 바이너리를 이제 다운로드할 수 있다.