ggml-org 팀은 2026년 11월 12일 llama.cpp의 b12322 태그를 배포했다. 이번 변경으로 그래프 결과의 메타데이터 예약 방식이 바뀌어, 예약 공간 전체를 초기화하는 대신 필요한 페이지만 할당한다. 이에 따라 추론 중 라이브러리가 사용하는 RAM이 줄어든다.
이번 업데이트는 macOS와 Windows CPU부터 Linux CUDA, Vulkan, OpenVINO 빌드까지 안내된 모든 플랫폼에서 이용할 수 있다.
왜 중요한가
메모리가 제한된 기기에서 LLaMA 모델을 실행하는 개발자는 RAM 사용량을 줄여 더 큰 모델을 실행하거나 여러 작업을 더 원활하게 동시에 처리할 수 있다.