ggml-org 팀이 llama.cpp 버전 b11806을 공개했습니다. 이번 버전에는 더 효율적인 미세 조정 기법인 prism.hadamard 폴딩 가중치용 LoRA 지원이 추가됐습니다. Apple Silicon과 Intel Mac, iOS용 사전 빌드 바이너리뿐 아니라 CPU, Vulkan, CUDA 버전을 포함한 여러 Linux 빌드도 제공됩니다. 사용자는 GitHub 릴리스 페이지에서 적합한 패키지를 내려받을 수 있습니다.
왜 중요한가
개발자는 직접 코드를 빌드하지 않고도 더 많은 플랫폼에서 LoRA 미세 조정 모델을 더 빠르게 실행할 수 있습니다.