Oossa

llama.cpp、CUDAとHIP向けのチャンク型GDNカーネルを追加

2026年10月15日リリースのb11632では、CUDAとHIP向けのチャンク型GDNカーネルを導入。RTX 3090とRTX 4090でSM86/SM89を有効にした。

短信著者: Oossa公開日: 1 分で読める

オープンソースのllama.cppライブラリは、2026年10月15日にバージョンb11632をリリースした。CUDAとHIPの両方にチャンク型GDN(Gaussian-Diffusion-Normalization)カーネルを追加し、GPU対応を強化した。正確性の検証とプリフィルのベンチマークを経て、RTX 3090やRTX 4090を含む、テスト済みのAmpereおよびAda世代GPUでSM86とSM89の命令セットが有効になった。旧バージョンのビルドにも修正を加え、GDNのMMA(行列積和演算)処理にはリファクタリングしたswizzle APIを採用した。

なぜ重要か

最近のNvidia GPUで、開発者はより高速で信頼性の高いllama.cpp推論を実現できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。