llama.cpp、MoEエキスパート向けGPUキャッシュを追加

オープンソースのllama.cppが、ホストメモリ上に保持するMoE（混合エキスパート）データ用GPUキャッシュに対応した。

短信著者： OossaOossa公開日: 2026年10月8日 2:06 UTC最終更新: 2026年10月8日 3:35 UTC1 分で読める

ggml-orgチームは2026-10-08、llama.cppのバージョンb11480をリリースした。今回のアップデートでは、ホストメモリ上に配置するMoEエキスパート向けGPUキャッシュを追加し、大規模モデルをGPU上でより高速に実行できるようにした。この変更には「assisted-by Claude」と記されており、新しいllama_moe_cache_ptr APIを使用する。macOS、iOS、一部のUbuntu構成向けのビルド済みバイナリをダウンロードできる。