ggml-orgチームはllama.cppのバージョンb11268をリリースした。このアップデートでは、q5_K Adreno GPUカーネルのテンソル処理を担うOpenCLドライバーの不具合を修正。macOSのApple SiliconとIntel Mac、iOSのほか、CPU、Vulkan、CUDA 12.8を含む複数の構成に対応したLinux向けの新しいビルド済みバイナリも提供する。
なぜ重要か
Adreno GPUを搭載したAndroid端末でLLMを実行する開発者にとって、今回の修正はパフォーマンスと安定性の向上につながる。