# llama.cpp ускоряет квантованные модели с помощью OpenCL DP4A

> В библиотеке для инференса LLaMA с открытым исходным кодом появилась поддержка GEMM с cooperative-k DP4A для форматов q4_0, q4_k и q6_k.

Oossa · 2026-10-19 · https://oossa.com/ru/llama-cpp-adds-opencl-dp4a-kernels-for-quantized-models

Проект ggml‑org/llama.cpp выпустил версию b11741 2026‑10‑19. В ней появились новые ядра OpenCL, использующие инструкции DP4A для ускорения матричных умножений в трёх квантованных форматах: q4_0, q4_k и q6_k. Обновление также исправляет проблему с выравниванием и включает готовые бинарные файлы для macOS (Apple Silicon и Intel) и нескольких вариантов Ubuntu, в том числе сборки с Vulkan.

## Факты

- Версия b11741 выпущена 2026‑10‑19
- Добавлена поддержка GEMM с cooperative-k DP4A для q4_0, q4_k и q6_k

## Почему это важно

Разработчики смогут быстрее запускать модели LLaMA на совместимых с OpenCL графических процессорах, что сделает локальный инференс практичнее.

## Источники и ссылки

1. [ggml-org/llama.cpp b11741](https://github.com/ggml-org/llama.cpp/releases/tag/b11741) – llama.cpp, 2026-10-19

Обновлено: 2026-10-19