Oossa

llama.cpp更新でホストテンソルビューに対応、K2 Horizonのサポートも復活

2026年10月9日のリリースでは、KVキャッシュを分割して使う際のクラッシュを修正し、K2 Horizonハードウェアへの対応を再び有効にしました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026-10-09、llama.cpp version b11528をリリースしました。今回の更新では、ホストメモリに割り当てられたテンソルのビューを通常のノードとして扱えるようになり、–split-mode tensorオプション使用時に発生していた従来のassertエラーが解消されます。また、K2 Horizonアクセラレーター向けのSMテンソルサポートも復活しました。この変更はGitHubの公式リリースに含まれており、macOSからWindows、Linuxまで、記載されているすべてのプラットフォームが対象です。

なぜ重要か

開発者は、クラッシュを起こさずに、より多くのハードウェアでKVキャッシュを分割するモードを使ってllama.cppを実行できるようになり、ローカルLLM推論で利用できる構成が広がります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。