Oossa

llama.cpp b11688、AVX2対応CPUの推論を高速化

オープンソースのllama.cppが新しいバイナリを公開。AVX2のタイル化アキュムレーターを削減し、CPU性能を向上させます。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026-10-16、llama.cppのバージョンb11688をリリースしました。今回の更新ではCPU向けの変更として、AVX2のタイル化アキュムレーターを削減。プロジェクトによると、この調整で推論が高速化します。macOS、iOS、Linux、Vulkan、CUDA向けに、さまざまなハードウェアで使えるビルド済みバイナリも提供されています。この変更には、OpenAIのコード生成モデルCodexの支援を受けたとの表記があります。

なぜ重要か

開発者はコードを再ビルドしなくても、AVX2対応CPUでllama.cppのモデルをより高速に実行できます。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。