Oossa

llama.cpp b11799、SYCLのq8高速デ量子化に対応

2026年10月21日公開のオープンソースライブラリllama.cpp v b11799では、SYCL向け高速デ量子化処理が追加され、macOS、iOS、Linux用の新しいバイナリも提供されます。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026年10月21日、llama.cpp バージョン b11799を公開しました。この更新では、q8高速デ量子化のSYCL実装が追加されています(pull #30775)。Apple Silicon、Intel Mac、iOS向けのほか、VulkanやCUDA 12.8を含む複数のUbuntu環境向けに、ビルド済みバイナリも提供されます。

なぜ重要か

対応GPUでSYCLによる高速デ量子化を利用できるようになり、LLMをローカルで動かす際のハードウェアの選択肢が広がります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。