ggml-orgチームは2026年11月13日、llama.cpp b12368をリリースしました。変更点として、Hexagonのバッファ割り当てとメモリマッピングの改善が挙げられています。マッピングに失敗した場合の再試行や、メモリアドレスの断片化を抑えることを目的とした変更も含まれます。
リリースページでは、macOS、iOSと複数のLinuxシステム向けのビルドも提供されています。性能向上については説明がなく、Hexagon関連の変更がどのデバイスに効果をもたらすかも明記されていません。
なぜ重要か
Hexagonハードウェアでllama.cppを使う開発者は、メモリ処理の更新を利用できます。ただし、リリースノートでは実際に速度や信頼性が向上するかどうかは説明されていません。