llama.cpp b12122、NVFP4向けCUDA演算を融合

低精度数値形式NVFP4のモデル計算で、2つの処理を1つのCUDA経路に統合。複数のプラットフォーム向けビルドも公開された。

短信著者： OossaOossa公開日: 2026年11月5日 7:40 UTC1 分で読める

llama.cppプロジェクトはバージョンb12122をリリースした。今回の更新では、行列乗算経路のMMQで、NVFP4のゲート／アップ行列乗算とGLU演算を融合するCUDA最適化が追加された。NVFP4は一部のAI計算で使われるコンパクトな数値形式だ。処理をまとめることで個別の処理を減らせる可能性があるが、リリースノートに性能測定値は記載されていない。

このリリースでは、x64、Arm64、s390x向けのUbuntuに加え、macOSとiOS向けのビルドもダウンロードできる。