llama.cpp b11971、Adreno向けタイル化OpenCLに対応

Adreno GPU向けにタイル化q4_K行列演算を追加。バッチサイズが1を超える場合にも利用できる。

短信著者： OossaOossa公開日: 2026年10月28日 22:52 UTC1 分で読める

ggml-orgのllama.cpp b11971では、Adreno GPU向けにタイル化されたOpenCLのq4_K行列演算が追加された。また、バッチサイズが1を超える場合、言語モデルの出力層でこの演算を使うようになった。

このリリースでは、macOS、iOS、および複数のLinuxプラットフォーム向けビルドをダウンロードできる。リリースノートに性能測定値は記載されておらず、Adreno向け変更による速度やリソースへの影響は不明だ。

なぜ重要か

Adreno搭載ハードウェアでllama.cppを動かす開発者は、新しいOpenCL経路を試せる。ただし、推論が高速化するかどうかはリリースノートに記載されていない。

1 件の出典

この記事は役に立ちましたか？

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。