Oossa

llama.cpp b11623、WMMA非対応AMD GPU向けの畳み込み経路を追加

AMD GPU向けにSIMTベースのconv2d経路を追加。性能向上の数値は公表されていません。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームはllama.cpp b11623をリリースし、WMMAに対応していないAMD GPUで2D畳み込みを実行するための、SIMTベースのimplicit GEMM経路を追加しました。短いリダクションではこの経路を使わないようにしています。リリースノートには速度の数値や、どのAMDカードが恩恵を受けるかは記載されていません。ダウンロード可能なビルドは、macOS、iOSおよび複数のLinuxプラットフォーム向けに公開されています。

なぜ重要か

AMD GPUでllama.cppを使う開発者にとって、WMMAが利用できない場合の畳み込み経路が追加されました。ただし、性能への影響や対応ハードウェアはリリースノートからは分かりません。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。