オープンソースライブラリのllama.cppは、2026年10月12日にバージョンb11560を公開した。QualcommのHexagon NPU向けにIM2COL_3Dへ対応し、DMA経路の追加やFP16処理の修正を行った。非効率なループをなくし、スレッド処理も改善している。macOSやWindowsのCPU搭載機から、Snapdragon CPU、Adreno GPU、Hexagon NPUを搭載するAndroid端末まで、幅広いプラットフォーム向けのビルドが提供される。
なぜ重要か
Hexagon NPUを搭載したSnapdragonスマートフォンで、開発者はllama.cppのモデルをより高速に実行できる。