llama.cpp 라이브러리가 Oct 20, 2026 새 버전을 출시했습니다. 이번 버전은 mixture-of-experts(MoE) 라우터를 변경해 전문가 선택 결과가 백엔드의 무작위 잡음에 좌우되지 않도록 했습니다. 각 전문가에 고유한 점수 범위를 부여해 출력 차이를 4e-3에서 5e-7 미만으로 줄였습니다. 테스트 표에 실제 Apple 기기 이름(예: M2 Ultra)도 추가해 CPU와 GPU 결과를 구분할 수 있게 했습니다.
왜 중요한가
Apple Silicon에서 llama.cpp를 사용하는 개발자는 모델 출력의 일관성이 높아지고 성능 보고서도 더 명확해집니다.