تیم ggml‑org نسخه b11413 از llama.cpp را در Oct 5 2026 منتشر کرد. این به‌روزرسانی، پیاده‌سازی Vulkan برای توجه فلش تنک را اضافه می‌کند که با تنسورهای کلید/مقدار کوانتیزه‌شده کار می‌کند. این قابلیت با عنوان «توجه فلش تنک برای K/V کوانتیزه‌شده» توصیف شده و برای استنتاج شتاب‌گرفته با GPU در نظر گرفته شده است. در فهرست این انتشار، نسخه‌های ساخته‌شده برای پلتفرم‌های گوناگون، از Apple Silicon در macOS تا CUDA و Vulkan در Windows، نیز آمده‌اند.
چرا مهم است
توسعه‌دهندگان اکنون می‌توانند مدل‌های کوانتیزه‌شده را با سرعت بیشتری روی GPUهای سازگار با Vulkan اجرا کنند و هزینه محاسباتی دستگاه‌های لبه‌ای را کاهش دهند.
