# افزودن کرنل‌های OpenCL برای پردازش‌های کم‌دسته در llama.cpp

> کتابخانه متن‌باز استنتاج Llama حالا چند نسخه بهینه‌شده OpenCL از GEMM را برای اجراهای کم‌دسته دربر می‌گیرد و پشتیبانی از پردازنده‌های گرافیکی Snapdragon را گسترش می‌دهد.

Oossa · 2026-10-20 · https://oossa.com/fa/llama-cpp-adds-new-opencl-kernels-for-small-batch-workloads

پروژه ggml‑org/llama.cpp در 2026‑10‑21 به‌روزرسانی‌ای با شناسه b11763 منتشر کرد. این به‌روزرسانی چند کرنل OpenCL اضافه می‌کند که ضرب ماتریسی را در دسته‌های کوچک سریع‌تر می‌کنند؛ از جمله q4_k dp4a GEMM و گونه‌ای محدودتر از mul_mm_f16_f32. این تغییرات همچنین یک باگ خواندن خارج از محدوده را برطرف می‌کنند و یک محافظ غیرضروری برای بازگشت به پردازنده مرکزی را حذف می‌کنند. این کتابخانه پیش‌تر روی پلتفرم‌های مختلفی، از macOS با Apple Silicon گرفته تا Windows با CUDA و Linux با Vulkan، اجرا می‌شد و حالا پشتیبانی بهتری از پردازنده‌های Snapdragon، پردازنده‌های گرافیکی Adreno و NPUهای Hexagon دارد.

## حقایق

- چند گونه OpenCL GEMM برای دسته‌های کوچک اضافه شده‌اند؛ از جمله q4_k dp4a و mul_mm_f16_f32.
- تاریخ انتشار: 2026‑10‑21.

## چرا مهم است

توسعه‌دهندگان می‌توانند مدل‌های Llama را روی دستگاه‌های اندرویدی مجهز به تراشه‌های Snapdragon سریع‌تر اجرا کنند و استفاده عملی از هوش مصنوعی روی دستگاه را آسان‌تر کنند.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b11763](https://github.com/ggml-org/llama.cpp/releases/tag/b11763) – llama.cpp, 2026-10-20

آخرین به‌روزرسانی: 2026-10-20