Oossa

llama.cpp, CUDA·HIP용 청크형 GDN 커널 추가

Oct 15, 2026에 공개된 b11632 버전은 CUDA와 HIP용 청크형 GDN 커널을 도입하고, RTX 3090 및 RTX 4090에서 SM86/SM89를 지원합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈소스 llama.cpp 라이브러리가 Oct 15, 2026에 b11632 버전을 공개했습니다. 이번 업데이트는 CUDA와 HIP 모두에 청크형 GDN(Gaussian-Diffusion-Normalization) 커널을 추가해 GPU 지원을 개선합니다. 정확성 및 프리필 벤치마크를 거쳐 RTX 3090과 RTX 4090을 포함한 테스트 대상 Ampere·Ada GPU에서 SM86 및 SM89 명령어 세트를 활성화했습니다. 이전 빌드의 수정 사항도 반영했으며, GDN MMA(행렬 곱셈 누적) 단계에는 리팩터링된 스위즐 API를 사용합니다.

왜 중요한가

개발자는 최신 Nvidia GPU에서 더 빠르고 안정적인 llama.cpp 추론을 구현할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.