ggml-orgチームはllama.cppのバージョンb11575をリリースした。この更新では、大規模なテンソルで動作しなかったMetal GPUカーネル(kernel_mul_mm)を修正している。修正を含む新しいバイナリパッケージは、macOS Apple Silicon、macOS Intel、iOS、および複数のUbuntuビルド向けに提供される。リリースは2026年10月12日にGitHubで公開された。
なぜ重要か
Apple Silicon搭載MacでGPUのクラッシュを起こさずに、より大規模な言語モデルを実行できるようになる。