Библиотека llama.cpp с открытым исходным кодом выпустила версию b11560 12 октября 2026 года. В ней появилась поддержка IM2COL_3D для NPU Qualcomm Hexagon, включая пути передачи данных DMA и исправления обработки FP16. Также обновление устраняет неэффективные циклы и улучшает работу с потоками. Сборки доступны для многих платформ — от компьютеров Mac и Windows с процессорами до устройств Android с процессорами Snapdragon, графическими процессорами Adreno и NPU Hexagon.
Почему это важно
Теперь разработчики могут быстрее запускать модели llama.cpp на телефонах Snapdragon с NPU Hexagon.
