ggml‑org 팀이 llama.cpp 버전 b12259를 출시했습니다. 이번 버전은 Kimi K3.1 비전 모델을 지원하고 K2.5와 K3.1의 전처리 문제를 수정했습니다. macOS(Apple Silicon 및 Intel), iOS와 여러 Ubuntu 빌드용 사전 컴파일 바이너리를 이용할 수 있습니다.
왜 중요한가
개발자는 이제 클라우드 서비스를 이용하지 않고도 널리 쓰이는 데스크톱과 모바일 플랫폼에서 Kimi의 비전 모델을 로컬로 실행할 수 있습니다.