Oossa

llama.cpp b11721、GPUカーネル融合と対応プラットフォームを拡大

オープンソースのLLMランタイムが2026年10月18日にプレリリースを公開。複数のGPUカーネルを統合し、対応システムを拡大しました。

短信著者: Oossa公開日: 1 分で読める

ggml-org/llama.cppプロジェクトは2026年10月18日、新しいプレリリース「b11721」を公開しました。Qwen4expのscale-sigmoid-scale処理を単一のCUDAカーネルに統合し、VulkanではHC_POST_GATEの融合を追加。GPUカーネルの数を4つから1つに削減します。また、Apple Silicon、AMD、NVIDIA CUDA 12-13、ROCm、OpenVINO、Android Snapdragonプラットフォームなど、多数のCPU・GPU向けビルドも用意されています。

なぜ重要か

カーネル融合により、開発者はより幅広いハードウェアでLLMを高速に実行できるようになります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。