# llama.cpp بهینه‌سازی رفع کوانتیزه‌سازی KV در Vulkan را افزود

> کتابخانه متن‌باز llama.cpp اکنون از کش کلید-مقدارِ رفع‌کوانتیزه‌شده روی پردازنده‌های گرافیکی Vulkan پشتیبانی می‌کند؛ قابلیتی که سرعت برخی سرهای مدل را افزایش می‌دهد.

Oossa · 2026-11-11 · https://oossa.com/fa/llama-cpp-adds-vulkan-kv-dequantization-optimization

تیم ggml‑org نسخه b12291 از llama.cpp را منتشر کرد. این نسخه بهینه‌سازی مبتنی بر Vulkan را اضافه می‌کند که با استفاده از دستور coopmat2، کش کلید-مقدار را رفع‌کوانتیزه می‌کند. این تغییر فقط زمانی اعمال می‌شود که یک روش ابتکاری، بر اساس توکن‌های پرس‌وجو و نسبت GQA، آن را ایمن تشخیص دهد. این به‌روزرسانی همچنین نحوه مدیریت هم‌ترازی را برای برخی اندازه‌های سر اصلاح می‌کند و در مواردی که امکان استفاده از بهینه‌سازی وجود ندارد، عملکرد را بهبود می‌دهد.

## حقایق

- برچسب انتشار b12291 در 2026-11-11 منتشر شد
- بهینه‌سازی رفع‌کوانتیزه‌سازی KV را برای پردازنده‌های گرافیکی Vulkan اضافه می‌کند

## چرا مهم است

توسعه‌دهندگانی که مدل‌های Llama را روی سخت‌افزار سازگار با Vulkan اجرا می‌کنند، می‌توانند بدون تغییر کد خود از استنتاج سریع‌تر بهره‌مند شوند.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b12291](https://github.com/ggml-org/llama.cpp/releases/tag/b12291) – llama.cpp, 2026-11-11

آخرین به‌روزرسانی: 2026-11-11