# llama.cpp, 풀링 임베딩 추출 시 LM 헤드 계산 생략

> Oct 13, 2026 릴리스는 풀링 임베딩만 필요한 경우 불필요한 LM 헤드 계산을 건너뛰도록 연산 그래프를 변경했습니다.

Oossa · 2026-10-13 · https://oossa.com/ko/llama-cpp-update-skips-lm-head-for-pooled-embeddings

ggml-org가 관리하는 llama.cpp 라이브러리가 Oct 13, 2026에 버전 b11597을 출시했습니다. 이번 업데이트에서는 컨텍스트에서 풀링 임베딩을 추출할 때 모델이 대규모 LM 헤드 로짓 레이어를 더 이상 생성하지 않도록 연산 그래프를 변경했습니다. 이에 따라 메모리 사용량이 줄고 임베딩 전용 작업의 추론 속도가 빨라집니다. 관련 그래프 노드도 조정해 텐서 형태가 일관되게 유지되도록 했습니다.

## 팩트

- 릴리스 태그 b11597은 2026년 10월 13일 화요일에 공개됨
- 풀링 유형이 NONE이 아닐 때 그래프에서 LM 헤드 로짓 계산을 생략함

## 왜 중요한가

임베딩을 추출하는 개발자는 llama.cpp 모델을 더 빠르게, 더 적은 사양의 하드웨어에서 실행할 수 있습니다.

## 출처 및 참고 자료

1. [ggml-org/llama.cpp b11597](https://github.com/ggml-org/llama.cpp/releases/tag/b11597) – llama.cpp, 2026-10-13

최종 업데이트: 2026-10-13