llama.cpp b12206、MoEキャッシュを高速化

オープンソースのLLM実行環境がmacOS、iOSと複数のLinux向けバイナリを公開。MoEキャッシュの処理を改善し、CPU処理の停滞を防ぎます。

短信著者： OossaOossa公開日: 2026年11月8日 14:08 UTC1 分で読める

ggml-orgはllama.cppのバージョンb12206を公開しました。このアップデートではMoE（mixture-of-experts）キャッシュを修正し、CPU側の処理がキャッシュ済みのエキスパートを待たずに済むようになりました。Apple Silicon搭載Mac、Intel Mac、iOS向けのほか、VulkanまたはzDNNに対応するx64、arm64、s390xなど複数構成のUbuntu向けに、ビルド済みバイナリが提供されています。