ggml-orgチームは2026年10月21日、llama.cppのバージョンb11790を公開した。今回の更新では、Q4_0量子化向けにNEONベクトル化した再パック機能を追加し、ほかのタイプではスレッド処理に対応することで、ARM CPUでの性能を向上させた。macOSのApple Silicon、iOS、および各種Linux ARMビルド向けのビルド済みバイナリも利用可能になった。変更にはQualcommのエンジニアも共同で貢献した。今回のリリースには、Linux x64およびarm64向けのVulkanビルドも含まれる。
なぜ重要か
ARM搭載のノートPCやスマートフォンでLlamaモデルをより高速に実行でき、AIをローカルで使いやすくなる。