Oossa

llama.cpp, OpenCL 깊이별 conv2d 지원 추가한 b11827 출시

오픈소스 llama.cpp 라이브러리가 OpenCL 깊이별 합성곱 커널을 추가한 버전 b11827을 출시했다. macOS, iOS, Linux용 바이너리도 제공된다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀이 llama.cpp 버전 b11827을 출시했다. 이번 업데이트에는 Qualcomm Adreno GPU 지원을 포함한 OpenCL 깊이별 conv2d 커널이 추가됐다. macOS Apple Silicon, macOS Intel, iOS와 여러 Ubuntu 플랫폼(CPU 및 Vulkan)용 사전 빌드 바이너리도 제공된다. 이번 변경 사항은 OpenCode와 Qualcomm 엔지니어 Li He가 기여했다.

왜 중요한가

이제 개발자는 OpenCL GPU를 탑재한 기기에서 llama.cpp 모델을 더 빠르게 실행할 수 있어, 저전력 하드웨어를 활용할 선택지가 넓어진다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.