پروژهٔ llama.cpp نسخهٔ b11404 را در 5 اکتبر 2026 منتشر کرد. این نسخه کرنل‌های Metal را اضافه می‌کند که در هر نوبت چند ردیف (2 تا 16 ردیف) را روی GPUهای Apple ضرب می‌کنند. این کرنل‌ها هر وزن را فقط یک‌بار از حالت کوانتیزه خارج می‌کنند و کار را میان گروه‌های SIMD تقسیم می‌کنند؛ در نتیجه، رمزگشایی حدسی روی M3 Ultra سریع‌تر از روش قبلیِ ضرب ماتریس‌ـ‌بردار است. کرنل‌های جدید فقط روی دستگاه‌هایی به کار می‌روند که از خانوادهٔ GPU اپل Apple7 پشتیبانی می‌کنند و تعداد ردیف‌ها به آستانهٔ مشخصی برسد (برای نمونه، 6 ردیف برای F32). این تغییر همچنین منطق ادغام عملیات را بهبود می‌دهد و ادغام کپی دسته‌ای را که مشکل‌ساز بود حذف می‌کند.
چرا مهم است
کاربران دستگاه‌های مجهز به Apple Silicon که با llama.cpp کار می‌کنند، هنگام تولید متن با رمزگشایی حدسی با تأخیر کمتری روبه‌رو می‌شوند؛ این به‌ویژه برای دستگاه‌های M3 Ultra صدق می‌کند.
