Проект ggml‑org/llama.cpp выпустил версию b11741 2026‑10‑19. В ней появились новые ядра OpenCL, использующие инструкции DP4A для ускорения матричных умножений в трёх квантованных форматах: q4_0, q4_k и q6_k. Обновление также исправляет проблему с выравниванием и включает готовые бинарные файлы для macOS (Apple Silicon и Intel) и нескольких вариантов Ubuntu, в том числе сборки с Vulkan.
Почему это важно
Разработчики смогут быстрее запускать модели LLaMA на совместимых с OpenCL графических процессорах, что сделает локальный инференс практичнее.
