Oossa

llama.cpp b11977、OpenVINOのSCALE処理を修正

スライスしたビューではなく元のテンソル全体をスケーリングし、結果バッファーを超過するおそれがあった不具合を修正しました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgのllama.cppリリースb11977では、OpenVINOバックエンドがスライスしたテンソルビューに対してSCALE演算を処理する方法が修正されました。従来は、ストライド付きビューが元のテンソル全体として扱われ、結果が想定より大きくなってテストがクラッシュする可能性がありました。

今回の修正ではビューをスライスとして処理し、非連続ビューに対するインプレースSCALEを拒否します。結果を書き戻す際に誤った要素を上書きするおそれがあるためです。また、このリリースではmacOS、Linux、Android、Windowsなどのプラットフォーム向けビルドが案内されています。

なぜ重要か

スライスしたテンソルを入力としてllama.cppのOpenVINOバックエンドを使う開発者にとって、テストのクラッシュや誤った要素への書き込みにつながるケースが修正されました。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。