オープンソースのllama.cppライブラリが、2026年10月21日にバージョンb11770をリリースしました。今回の更新では、幅7のSSM(状態空間モデル)畳み込みに対応するCUDAカーネルが追加されました。Apple Silicon、Intel搭載Mac、iOS、およびCPU、Vulkan、CUDA 12.8版を含む複数のUbuntuビルド向けに、新しいビルド済みバイナリも提供されています。
なぜ重要か
新しいカーネルにより、開発者はNvidia GPUで、より大規模なSSMベースのモデルを高速に実行できます。