여러 기기에서 사용할 수 있는 경량 LLM 실행 도구 llama.cpp의 b11539 릴리스를 ggml‑org가 공개했다. macOS Apple Silicon 및 Intel용, iOS XCFramework용 바이너리 아카이브와 CPU, Vulkan, CUDA 12.8을 지원하는 여러 Ubuntu 빌드가 새로 제공된다. 다운로드 링크는 GitHub 릴리스 페이지에 올라와 있다.
왜 중요한가
개발자는 직접 빌드하지 않고도 더 다양한 하드웨어에서 llama.cpp를 로컬로 실행할 수 있다.