ggml-org 팀이 llama.cpp 버전 b11827을 출시했다. 이번 업데이트에는 Qualcomm Adreno GPU 지원을 포함한 OpenCL 깊이별 conv2d 커널이 추가됐다. macOS Apple Silicon, macOS Intel, iOS와 여러 Ubuntu 플랫폼(CPU 및 Vulkan)용 사전 빌드 바이너리도 제공된다. 이번 변경 사항은 OpenCode와 Qualcomm 엔지니어 Li He가 기여했다.
왜 중요한가
이제 개발자는 OpenCL GPU를 탑재한 기기에서 llama.cpp 모델을 더 빠르게 실행할 수 있어, 저전력 하드웨어를 활용할 선택지가 넓어진다.