Oossa

llama.cpp b11804、OpenCLのargmaxに対応

オープンソースのLLM実行環境が、OpenCLでのF32からI32へのargmax処理に対応。macOS、Linux、iOS向けの新しいバイナリも公開しました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgは2026-10-22、llama.cppのバージョンb11804を公開しました。今回のアップデートでは、32ビット浮動小数点数から32ビット整数のargmaxを計算するOpenCLルーチンを追加し、GPU推論を高速化しています。また、Apple Silicon、Intel搭載Mac、iOS、および複数のUbuntu環境(CPU、Vulkan、CUDA)向けに、新しいビルド済みバイナリも収録しました。変更はOpenCodeとQualcommのLi Heが実装しました。

なぜ重要か

OpenCL対応GPUでllama.cppのモデルをより高速に実行できるようになり、趣味のAIプロジェクトで利用できるハードウェアの選択肢が広がります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。