# افزایش سرعت رمزگشایی حدسی در llama.cpp با کرنل‌های جدید Metal

> نسخهٔ جدید این محیط اجرای متن‌باز مدل‌های زبانی بزرگ، کرنل‌های تازهٔ ضرب ماتریسی را در Apple Silicon به کار می‌گیرد و زمان تولید توکن را در برخی مدل‌های کوانتیزه‌شده کاهش می‌دهد.

Oossa · 2026-10-05 · https://oossa.com/fa/llama-cpp-adds-few-row-metal-kernels-for-faster-speculative-decoding-on-apple-m3

پروژهٔ llama.cpp نسخهٔ b11404 را در 5 اکتبر 2026 منتشر کرد. این نسخه کرنل‌های Metal را اضافه می‌کند که در هر نوبت چند ردیف (2 تا 16 ردیف) را روی GPUهای Apple ضرب می‌کنند. این کرنل‌ها هر وزن را فقط یک‌بار از حالت کوانتیزه خارج می‌کنند و کار را میان گروه‌های SIMD تقسیم می‌کنند؛ در نتیجه، رمزگشایی حدسی روی M3 Ultra سریع‌تر از روش قبلیِ ضرب ماتریس‌ـ‌بردار است. کرنل‌های جدید فقط روی دستگاه‌هایی به کار می‌روند که از خانوادهٔ GPU اپل Apple7 پشتیبانی می‌کنند و تعداد ردیف‌ها به آستانهٔ مشخصی برسد (برای نمونه، 6 ردیف برای F32). این تغییر همچنین منطق ادغام عملیات را بهبود می‌دهد و ادغام کپی دسته‌ای را که مشکل‌ساز بود حذف می‌کند.

## حقایق

- تاریخ انتشار: 5 اکتبر 2026 («دوشنبه 5 اکتبر 2026، ساعت 08:06:22 به وقت GMT+0200»).
- کرنل‌های جدید Metal بین 2 تا 16 ردیف را پردازش می‌کنند و رمزگشایی حدسی را روی M3 Ultra سریع‌تر می‌کنند.

## چرا مهم است

کاربران دستگاه‌های مجهز به Apple Silicon که با llama.cpp کار می‌کنند، هنگام تولید متن با رمزگشایی حدسی با تأخیر کمتری روبه‌رو می‌شوند؛ این به‌ویژه برای دستگاه‌های M3 Ultra صدق می‌کند.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b11404](https://github.com/ggml-org/llama.cpp/releases/tag/b11404) – llama.cpp, 2026-10-05

آخرین به‌روزرسانی: 2026-10-05