# llama.cpp ускоряет обработку промптов на видеокартах Intel Arc

> В выпуске b11979 изменена деквантизация в SYCL. В тестах на Intel Arc Pro B70 обработка промптов ускорилась, а скорость генерации не изменилась.

Oossa · 2026-10-29 · https://oossa.com/ru/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

В выпуске ggml-org/llama.cpp b11979 изменён способ преобразования нескольких форматов квантованных моделей в ядрах SYCL для видеокарт Intel. На Arc Pro B70 проект зафиксировал ускорение префилла — обработки текста промпта — при использовании для тензоров переставленного порядка элементов. Прирост зависел от формата и модели.

Максимальный прирост в этом режиме составил 28,7% для модели Q6_K с 27 миллиардами параметров. Для моделей MoE в формате MXFP4 префилл в опубликованном тесте ускорился на 57–61%, в том числе при использовании нового порядка элементов; скорость декодирования не изменилась. По данным проекта, результаты по перплексии остались прежними или укладывались в разброс между запусками.

## Факты

- llama.cpp b11979 показал ускорение префилла на 28,7% для модели Q6_K с 27 млрд параметров на Arc Pro B70.
- Прирост префилла для MoE-моделей MXFP4 составил 57% при pp2048 и 61% при pp512; скорость декодирования не изменилась.

## Почему это важно

При запуске моделей этих форматов на Intel Arc Pro B70 обработка промптов может занимать меньше времени. Прирост зависит от модели и порядка элементов и не ускоряет декодирование.

## Источники и ссылки

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

Обновлено: 2026-10-29