ggml‑orgチームがllama.cppのバージョンb11672をリリースした。macOSのApple Silicon搭載機とIntel搭載機、iOSに加え、CPU、Vulkan、CUDAに対応する複数のUbuntu構成向けに、コンパイル済みバイナリを提供する。また、mtmdのlightonocrツールについて、画像の長辺を1540ピクセルに固定する仕様を変更し、デフォルトでは画像の元のサイズを使うようになった。
なぜ重要か
開発者は自分でコードをビルドしなくても、より多様なハードウェア環境でLLaMAモデルを実行できる。