Oossa

llama.cpp 업데이트, draft-p-min 사용 시 경고 추가

새 버전은 확률적 드래프트 샘플링과 p_min 플래그를 함께 사용할 때 경고를 표시해 의도치 않은 토큰 누락을 막습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈 소스 llama.cpp 라이브러리가 2026-11-13에 버전 b12364를 출시했습니다. 이번 버전은 확률적 드래프트 샘플링을 사용하면서 --spec-draft-p-min 플래그를 설정하면 경고를 기록하고, p_min을 0으로 설정하도록 안내합니다. MTP 및 DFlash2 드래프트에서는 p_min 컷오프를 적용하지 않도록 변경했습니다. 이전에는 이 컷오프 때문에 타깃 모델이 받아들일 토큰이 누락될 수 있었습니다. 경고는 실제로 p_min을 사용하는 드래프터에만 표시해 n-gram 및 DSpark 드래프터에서는 불필요한 알림이 나오지 않도록 했습니다.

왜 중요한가

개발자는 드래프트 모델을 미세 조정할 때 토큰이 조용히 누락되는 일을 막아 더 안정적으로 생성할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.