ggml‑orgチームがllama.cppのバージョンb11747をリリースした。macOS Apple Silicon、macOS Intel、iOSに加え、CPU、Vulkan、CUDA 12.8対応を含む複数のUbuntu向けのコンパイル済みバイナリを収録している。また、Transformersに合わせたQwen‑VLのリサイズパッチも記載されている。適切なパッケージはGitHubのリリースページからダウンロードできる。
なぜ重要か
開発者はソースからビルドすることなく、より多くのハードウェアでLLaMAモデルをローカル実行できる。
