llama.cpp, 단일 토큰 스위치 옵션 최대 256개 지원

오픈소스 llama.cpp 라이브러리가 Granite 스위치 모델에서 서로 다른 옵션 표식을 최대 256개까지 매핑할 수 있게 됐다.

짧은 소식작성: OossaOossa 게시일: 2026년 10월 17일 오전 8:09 UTC1 분 읽기

llama.cpp 프로젝트가 GraniteSwitchDecisionFullOptions 기능을 추가한 새 버전(b11707)을 공개했다. 이 기능을 사용하면 각 스위치 모델에서 기존 66개 대신 고유한 단일 토큰 표식을 최대 256개까지 사용할 수 있다. 코드는 모델별 어휘에서 어떤 문자가 단일 토큰 항목을 이루는지 자동으로 찾아낸다. 이번 변경은 C++ 변환 계층에 적용됐으며 릴리스 노트에도 안내돼 있다.