ggml-org 팀이 llama.cpp 버전 b11796을 출시했다. 이번 업데이트에서는 mtmd_gen 함수에 사용할 새 상태 객체를 추가했다. 또한 macOS(Apple Silicon 및 Intel), iOS와 여러 Ubuntu 버전용 사전 빌드 바이너리를 제공한다. 여기에는 CPU, Vulkan 및 CUDA 12.8 빌드가 포함된다.
왜 중요한가
개발자는 이제 직접 빌드하지 않고도 더 다양한 하드웨어에서 llama.cpp를 실행할 수 있다. 특히 CUDA 12.8을 사용하는 GPU에서 이용하기가 쉬워진다.