Oossa

llama.cpp更新、大規模モデルのMetalテンソルエラーを修正

オープンソースのllama.cppライブラリに、巨大なテンソルの乗算を妨げていたMetal GPUの不具合を修正する更新が登場。macOS、iOS、Linux向けの新しいバイナリも公開された。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームはllama.cppのバージョンb11575をリリースした。この更新では、大規模なテンソルで動作しなかったMetal GPUカーネル(kernel_mul_mm)を修正している。修正を含む新しいバイナリパッケージは、macOS Apple Silicon、macOS Intel、iOS、および複数のUbuntuビルド向けに提供される。リリースは2026年10月12日にGitHubで公開された。

なぜ重要か

Apple Silicon搭載MacでGPUのクラッシュを起こさずに、より大規模な言語モデルを実行できるようになる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。