Oossa

llama.cpp v0.2.4、SYCLのQ5_KレイアウトとGLU融合に対応

オープンソースのllama.cppライブラリが2026年10月9日にバージョンb11515を公開。SYCLの新機能に加え、macOS、iOS、Linux、CUDA向けのビルド済みバイナリを提供する。

短信著者: Oossa公開日: 1 分で読める

ggml‑orgチームは2026-10-09、llama.cppのリリースb11515を公開した。今回のアップデートでは、SYCLベースのQ5_K並べ替えレイアウトによる行列・ベクトル量子化(MMVQ)と、融合GLU演算子が追加され、対応ハードウェアでの性能向上が期待できる。また、Apple Silicon、Intel Mac、iOS、Ubuntu(CPU、Vulkan、CUDA 12.8)、IBM s390x向けの実行可能なバイナリも同梱される。GitHubページから、環境に合ったアーカイブをダウンロードできる。

なぜ重要か

ソースからビルドしなくても、SYCL対応GPUでllama.cppをより高速に実行できるようになる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。