Oossa

llama.cpp b11284、OpenVINOのGET_ROWS問題を修正

2026年9月30日リリースのllama.cppでは、OpenVINOで重みビューを扱う際の問題を解消。従来の拒否がなくなり、ハードウェア対応が改善した。

短信OossaOossa公開日: 1 分で読める

オープンソースのllama.cppライブラリは2026年9月30日、バージョンb11284をリリースした。今回の更新では、OpenVINOが重みビューを処理する方法を変更し、一部の量子化モデルで問題を引き起こしていたGET_ROWSの拒否を修正した。行オフセットをgatherインデックスに組み込むことで、ビューを通常の定数として扱えるようにした。また、リリースではmacOSのApple Siliconから、LinuxおよびWindows向けのCUDA 13まで、幅広い新たなビルドターゲットが挙げられている。

なぜ重要か

この変更により、OpenVINO対応デバイスで、より多くの量子化LLaMAモデルをエラーなく実行できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。