# llama.cpp, 추측 디코딩 중 토큰 로그 확률 지원

> 오픈소스 Llama.cpp 라이브러리가 추측 디코딩 사용 시 토큰별 로그 확률을 반환합니다. master 브랜치의 회귀 버그도 수정했습니다.

Oossa · 2026-10-21 · https://oossa.com/ko/llama-cpp-adds-logprob-support-for-speculative-decoding

ggml‑org/llama.cpp 프로젝트가 2026-10-21에 버전 b11776을 출시했습니다. 이번 업데이트로 토큰을 미리 예측해 생성 속도를 높이는 기법인 추측 디코딩을 실행할 때 로그 확률(logprobs)을 반환할 수 있게 됐습니다. 추측 디코딩을 사용하지 않은 실행 결과와 새 로그 확률 값이 일치하는지 확인하는 회귀 테스트도 추가했습니다. 이번 수정으로 master 브랜치에서 로그 확률 데이터가 비어 있던 버그가 해결됐습니다.

## 팩트

- 버전 b11776에서 추측 디코딩 시 로그 확률 출력이 추가됐습니다(#27196).
- 출시일: 2026년 10월 21일 수요일.

## 왜 중요한가

개발자는 빠른 추측 디코딩을 사용할 때 토큰별 신뢰도 점수를 확인할 수 있어, 생성 품질을 디버깅하고 개선하는 데 도움이 됩니다.

## 출처 및 참고 자료

1. [ggml-org/llama.cpp b11776](https://github.com/ggml-org/llama.cpp/releases/tag/b11776) – llama.cpp, 2026-10-21

최종 업데이트: 2026-10-21