Oossa

llama.cpp b11723、長文脈向けFLASH_ATTN_EXTを強化

オープンソースライブラリのllama.cppがバージョンb11723を公開。hexagon向けFLASH_ATTN_EXTの調整により、CPUとVulkanで長文脈の推論を高速化します。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026年10月19日、llama.cppのバージョンb11723を公開しました。今回の更新では、長いコンテキストウィンドウやSWAモデル向けにFLASH_ATTN_EXTを改善したほか、メモリ読み出しを減らすマスク付きブロックスキップを追加しました。macOS(Apple SiliconおよびIntel)、iOS、Vulkan GPUに対応した複数のUbuntu環境向けに、バイナリビルドも提供されています。gemma-4などのモデルの性能向上を目指す変更です。

なぜ重要か

開発者は、デスクトップCPUや対応GPUで、より大きなコンテキストのLLMを効率よく実行できます。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。