llama.cpp 0.5, Q5_0·Q5_1 양자화 지원 추가

오픈소스 LLM 실행기가 새로운 5비트 형식 두 가지를 지원하며, macOS와 iOS 및 여러 Ubuntu 플랫폼용 바이너리를 제공합니다.

짧은 소식작성: OossaOossa 게시일: 2026년 11월 13일 오전 6:36 UTC1 분 읽기

ggml-org 팀이 llama.cpp 버전 b12345를 출시했습니다. 이번 버전에는 추론 속도를 높일 수 있는 5비트 압축 방식인 Q5_0 및 Q5_1 양자화 지원이 추가됐습니다. Hexagon 기기에서 이 형식을 지원하는 전용 커널도 포함됐습니다. macOS Apple Silicon, macOS Intel, iOS와 CPU 전용 및 Vulkan 변형을 포함한 여러 Ubuntu 빌드용 사전 빌드 바이너리도 제공됩니다.