llama.cpp 업데이트, Qwen2VL 스케일링 오류 수정

b12385 릴리스는 Qwen2VL이 알아볼 수 없는 출력을 내놓게 한 스케일링 오류를 수정해 CUDA와 CPU에서 성능을 개선합니다.

짧은 소식작성: OossaOossa 게시일: 2026년 11월 14일 오후 6:53 UTC1 분 읽기

오픈소스 llama.cpp 라이브러리가 2026년 11월 14일 버전 b12385를 출시했습니다. 이번 업데이트는 Qwen2VL 모델의 피드포워드 네트워크 계층에 스케일링 계수가 적용되지 않던 버그를 해결합니다. 이로 인해 모델은 CUDA에서 퍼플렉시티가 약 1 e6에 이르고 CPU에서는 NaN을 출력하는 등 의미 없는 결과를 내놓았습니다. 수정 사항은 빌드 루틴에 올바른 스케일을 전달해 정상적으로 작동하도록 합니다.