Команда ggml-org выпустила llama.cpp b11580 13 октября 2026 года. В обновлении расширена поддержка скалярного DMA (прямого доступа к памяти) для бинарных операций, в том числе добавлены новые ядра для repeat и комплексных данных. Кроме того, переработаны пути без DMA и добавлена поддержка непоследовательных шагов. Изменения затрагивают сборки для CPU, CUDA, Vulkan и Hexagon NPU на Linux, Windows, macOS и Android. Теперь разработчики могут эффективнее выполнять тензорные вычисления на устройствах — от Apple Silicon до чипов Snapdragon.
Почему это важно
Разработчики смогут быстрее запускать модели llama.cpp на более широком спектре оборудования, сокращая время вывода для конечных пользователей.