# llama.cpp küçük batch işlemleri için OpenCL çekirdekleri ekledi

> Açık kaynaklı Llama çıkarım kütüphanesine, düşük batch boyutlarında çalışmak için optimize edilmiş birkaç OpenCL GEMM seçeneği eklendi. Böylece Snapdragon GPU’larına yönelik destek de genişledi.

Oossa · 2026-10-20 · https://oossa.com/tr/llama-cpp-adds-new-opencl-kernels-for-small-batch-workloads

ggml‑org/llama.cpp projesi 2026‑10‑21 tarihinde b11763 güncellemesini yayımladı. Güncelleme, q4_k dp4a GEMM ve dar kapsamlı bir mul_mm_f16_f32 varyantı da dahil olmak üzere küçük batch boyutlarındaki matris çarpımlarını hızlandıran birkaç OpenCL çekirdeği ekliyor. Değişiklikler ayrıca sınır dışı okuma hatasını gideriyor ve gereksiz bir CPU yedekleme kontrolünü kaldırıyor. Kütüphane macOS Apple Silicon’dan Windows CUDA’ya ve Linux Vulkan’a kadar pek çok platformda zaten çalışıyor; artık Snapdragon CPU’ları, Adreno GPU’ları ve Hexagon NPU’ları için de daha iyi destek sunuyor.

## Gerçekler

- Küçük batch boyutları için q4_k dp4a ve mul_mm_f16_f32 gibi birkaç OpenCL GEMM varyantı eklendi.
- Yayın tarihi: 2026‑10‑21.

## Neden önemli

Geliştiriciler, Llama modellerini Snapdragon işlemcili Android cihazlarda daha hızlı çalıştırabilir; böylece yapay zekâyı cihaz üzerinde kullanmak daha pratik hale gelir.

## Kaynaklar ve referanslar

1. [ggml-org/llama.cpp b11763](https://github.com/ggml-org/llama.cpp/releases/tag/b11763) – llama.cpp, 2026-10-20

Son güncelleme: 2026-10-20