# llama.cpp, Vulkan GPU용 KV 캐시 역양자화 최적화 추가

> 오픈소스 llama.cpp 라이브러리가 Vulkan GPU에서 역양자화된 키·값 캐시를 지원해 특정 모델 헤드의 속도를 높입니다.

Oossa · 2026-11-11 · https://oossa.com/ko/llama-cpp-adds-vulkan-kv-dequantization-optimization

ggml-org 팀이 llama.cpp 버전 b12291을 공개했습니다. 이번 버전에는 coopmat2 명령어를 사용해 키·값 캐시를 역양자화하는 Vulkan 기반 최적화가 추가됐습니다. 쿼리 토큰과 GQA 비율을 바탕으로 한 휴리스틱이 안전하다고 판단한 경우에만 이 변경 사항이 적용됩니다. 또 일부 헤드 크기에서 정렬 처리를 수정해 최적화를 사용할 수 없는 경우에도 성능을 개선했습니다.

## 팩트

- 릴리스 태그 b12291은 2026-11-11에 공개됐습니다.
- Vulkan GPU용 역양자화 KV 최적화가 추가됐습니다.

## 왜 중요한가

Vulkan 호환 하드웨어에서 Llama 모델을 실행하는 개발자는 코드를 변경하지 않고도 추론 속도를 높일 수 있습니다.

## 출처 및 참고 자료

1. [ggml-org/llama.cpp b12291](https://github.com/ggml-org/llama.cpp/releases/tag/b12291) – llama.cpp, 2026-11-11

최종 업데이트: 2026-11-11