ggml-org가 llama.cpp 버전 b11556을 출시했습니다. 이번 업데이트에서는 Prism Bonsai 2 27B 모델의 런타임 지원이 추가됐습니다. Hadamard 텐서 처리 문제를 수정하고 변환 코드도 정리했습니다. macOS(Apple Silicon 및 Intel)와 Ubuntu(x64, arm64, s390x)용 사전 빌드 바이너리도 제공됩니다.
왜 중요한가
개발자는 이제 27B 파라미터 규모의 Prism Bonsai 2 모델을 자신의 컴퓨터에서 로컬로 실행할 수 있습니다.