# llama.cpp پیش‌پردازش مدل‌های کوانتیده را در گرافیک‌های Intel Arc سریع‌تر می‌کند

> نسخه b11979 با تغییرات در واگشایی کوانتش SYCL، سرعت پیش‌پردازش را در آزمایش‌های Intel Arc Pro B70 افزایش داد؛ سرعت رمزگشایی تغییری نکرد.

Oossa · 2026-10-29 · https://oossa.com/fa/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

نسخه b11979 از ggml-org/llama.cpp نحوه تبدیل چند قالب مدل کوانتیده را در کرنل‌های SYCL روی گرافیک‌های Intel تغییر می‌دهد. این پروژه روی Arc Pro B70، هنگام استفاده تنسورها از چیدمانی بازآرایی‌شده، پیش‌پردازش سریع‌تر را اندازه‌گیری کرد؛ پیش‌پردازش همان پردازش متن ورودی است. میزان بهبود بسته به قالب و مدل متفاوت بود.

بیشترین بهبود گزارش‌شده در این مسیر، 28.7% برای یک مدل 27 میلیاردپارامتری Q6_K بود. در مدل‌های ترکیبی متخصصان MXFP4، سرعت پیش‌پردازش در آزمایش گزارش‌شده 57% تا 61% افزایش یافت؛ این بهبود با چیدمان تازه نیز دیده شد. سرعت رمزگشایی تغییری نکرد. این ارقام را خود پروژه گزارش کرده و نتایج پرپلکسیتی تغییری نداشتند یا در محدوده نوسان بین اجراها بودند.

## حقایق

- llama.cpp b11979 برای یک مدل Q6_K با 27B پارامتر روی Arc Pro B70، افزایش 28.7درصدی سرعت پیش‌پردازش را گزارش می‌کند.
- سرعت پیش‌پردازش مدل‌های ترکیبی متخصصان MXFP4 در pp2048، 57% و در pp512، 61% افزایش یافت؛ سرعت رمزگشایی تغییری نکرد.

## چرا مهم است

افرادی که این قالب‌های مدل را روی Intel Arc Pro B70 اجرا می‌کنند ممکن است متن ورودی را سریع‌تر پردازش کنند؛ بااین‌حال میزان بهبود به مدل و چیدمان بستگی دارد و رمزگشایی را سریع‌تر نمی‌کند.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

آخرین به‌روزرسانی: 2026-10-29