ggml-orgチームはllama.cppのバージョンb11406をリリースした。WebGPUで、量子化処理のMMVQパスであるQ1_0、Q5_0、Q5_1、Q3_K、Q5_K、Q6_K、MXFP4に対応した。また、macOS(Apple SiliconおよびIntel)、iOS、複数構成のUbuntu(CPU、Vulkan、CUDA)向けにビルド済みバイナリも提供する。
なぜ重要か
開発者はWebGPUを使うブラウザーやGPUで、より多くのメモリー効率に優れたLLMを実行できるようになり、llama.cppの活用先が広がる。