ggml-org 팀이 llama.cpp 버전 b11757을 출시했습니다. 이번 업데이트는 레거시 메모리 풀을 비운 뒤 CUDA 그래프를 정리해 GPU 메모리 누수를 줄일 수 있습니다. Apple Silicon용 macOS, Intel Mac용 macOS, iOS와 여러 Ubuntu 빌드(CPU, Vulkan, CUDA 12.8)의 사전 빌드 바이너리도 제공됩니다. 이번 릴리스는 GitHub에 게시됐습니다.
왜 중요한가
Nvidia GPU에서 Llama 모델을 실행하는 개발자는 이번 수정으로 메모리 부족 오류를 덜 겪게 됩니다.