Oossa

llama.cpp、幅7のSSM畳み込みに対応するCUDAカーネルを追加

ggml-org/llama.cpp v b11770では、SSM畳み込み用の新しいCUDAカーネルを追加。macOS、iOS、Linux向けの新しいバイナリも提供します。

短信著者: Oossa公開日: 1 分で読める

オープンソースのllama.cppライブラリが、2026年10月21日にバージョンb11770をリリースしました。今回の更新では、幅7のSSM(状態空間モデル)畳み込みに対応するCUDAカーネルが追加されました。Apple Silicon、Intel搭載Mac、iOS、およびCPU、Vulkan、CUDA 12.8版を含む複数のUbuntuビルド向けに、新しいビルド済みバイナリも提供されています。

なぜ重要か

新しいカーネルにより、開発者はNvidia GPUで、より大規模なSSMベースのモデルを高速に実行できます。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。