오픈소스 llama.cpp 라이브러리가 2026년 10월 22일 버전 b11812를 공개했다. macOS Apple Silicon과 macOS Intel, iOS 및 여러 Ubuntu 구성(CPU, Vulkan, CUDA 12)에서 바로 실행할 수 있는 바이너리를 제공한다. 이번 릴리스에는 모든 Granite 모델의 레이어 입력 정보도 기록됐다. 사용자는 GitHub 릴리스 페이지에서 적합한 패키지를 내려받을 수 있다.
왜 중요한가
개발자는 이제 클라우드 서비스를 이용하지 않고도 다양한 데스크톱과 모바일 시스템에서 LLM을 로컬로 실행할 수 있다.