llama.cpp、単一トークンの切り替え विकल्पを最大256個サポート

オープンソースのllama.cppライブラリが、Graniteのスイッチモデル向けに最大256種類のオプションマーカーを割り当てられるようになりました。

短信著者： OossaOossa公開日: 2026年10月17日 8:09 UTC1 分で読める

llama.cppプロジェクトは新バージョン（b11707）を公開し、「GraniteSwitchDecisionFullOptions」という機能を追加しました。これにより、各スイッチモデルで、従来の66個に代わり、最大256個の異なる単一トークンのマーカーを使えるようになります。コードは、モデルごとの語彙から、どの文字が単一トークンになるかを自動で検出します。この変更はC++の変換レイヤーに加えられ、リリースノートにも記載されています。