Oossa

llama.cpp、SYCLのConv2Dでレイアウト処理を修正

b11815で、特定のテンソルレイアウトにおけるSYCLのConv2Dの誤計算を修正。バックエンドのテストは2,006件すべて合格した。

短信著者: Oossa公開日: 1 分で読める

llama.cppのb11815では、SYCLバックエンドがチャンネル順の入力とカーネルを使った2次元畳み込み(Conv2D)を処理する方法が修正された。従来は、非連続の入力を誤った要素オフセットで読み込み、誤った結果をエラーなく返すことがあった。

今回の変更では、CUDAバックエンドの仕様に合わせ、入力とカーネルを連続したメモリ配置の場合に限って処理するようにし、入力の連続性を確認するチェックを追加した。プロジェクトによると、SYCLのConv2Dテストは16件の失敗がゼロになり、2,006件中2,006件が合格した。

なぜ重要か

llama.cppのSYCLバックエンドを使う開発者にとって、Conv2Dが誤った結果をエラーなく返すケースへの対処となる。ただし、リリースノートには、どのアプリケーションやハードウェアでこのレイアウトに遭遇する可能性があるかは記載されていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。