llama.cpp、delta-netのインデックス計算をホスト側に移行

ggml-orgチームは、delta-netの畳み込み状態に変更を加えたllama.cppのバージョンb12074をリリースした。ロールバックスロットのインデックスを、デバイス側でarangeとargsortの演算を使って生成するのではなく、ホスト側で設定したI32入力として渡すようになった。

リリースノートによると、このインデックスはグラフの形状ごとに一定で、この変更により、メタデータバックエンドでarange用の分割を再現する必要がなくなる。速度やメモリ使用量がどの程度改善したかを示す測定結果は報告されていない。