تیم ggml‑org نسخهٔ b11713 کتابخانهٔ llama.cpp را در 17 اکتبر 2026 منتشر کرد. این به‌روزرسانی با استفاده از الگوریتم سریع‌تر MMVQ، عملکرد CUDA را برای نوع‌های کم‌بیتی بهبود می‌دهد. همچنین اصلاح کوچکی برای پردازنده‌های گرافیکی HIP (AMD) در کوانتیزه‌سازی‌های Q3_K و Q6_K ارائه می‌کند. فایل‌های باینری ازپیش‌ساخته‌شده برای macOS، iOS و چند نسخهٔ Ubuntu (با CPU، Vulkan و CUDA) اکنون برای دانلود در دسترس‌اند.
چرا مهم است
توسعه‌دهندگان می‌توانند مدل‌های زبانی بزرگ کوانتیزه‌شده را روی پردازنده‌های گرافیکی NVIDIA سریع‌تر اجرا کنند و هزینهٔ استنتاج را در برنامه‌های هوش مصنوعی محلی کاهش دهند.
