Проект ggml‑org/llama.cpp выпустил обновление b11763 от 2026‑10‑21. В него добавили несколько ядер OpenCL, ускоряющих умножение матриц при небольших размерах пакетов, в том числе q4_k dp4a GEMM и узкий вариант mul_mm_f16_f32. Обновление также исправляет ошибку чтения за пределами буфера и удаляет ненужную защиту от перехода на вычисления с помощью CPU. Библиотека уже работает на множестве платформ — от Apple Silicon под macOS до CUDA в Windows и Vulkan в Linux, — а теперь лучше поддерживает процессоры Snapdragon, графические процессоры Adreno и NPU Hexagon.
Почему это важно
Разработчики смогут быстрее запускать модели Llama на Android-устройствах с чипами Snapdragon, что сделает практичнее использование ИИ непосредственно на устройстве.
