Oossa

llama.cpp b11496、SYCLによる一括アップロードに対応

オープンソースライブラリのllama.cppが2026年10月8日にバージョンb11496を公開。固定リングバッファを使ったSYCLベースのモデル一括読み込み経路が追加された。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026年10月8日、llama.cpp b11496を公開した。今回のアップデートでは、固定リングバッファを介してモデルの一括アップロードを行うSYCLステージが追加され、対応GPUでの読み込みが高速化する。macOS(Apple SiliconおよびIntel)、iOS、各種Ubuntuビルド(CPU、Vulkan、CUDA 12)向けのバイナリをダウンロードできる。

なぜ重要か

SYCL対応ハードウェアでは大規模言語モデルをより速く読み込めるため、llama.cppを使うアプリの起動時間を短縮できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。