# llama.cpp b12122 объединяет операции CUDA для NVFP4

> В релизе объединены два этапа вычислений модели в одном пути CUDA для NVFP4 — формата чисел с низкой точностью. Сборки доступны для нескольких платформ.

Oossa · 2026-11-05 · https://oossa.com/ru/llama-cpp-b12122-adds-a-fused-cuda-operation-for-nvfp4

Вышла версия llama.cpp b12122 с оптимизацией CUDA: она объединяет матричные умножения gate/up для NVFP4 с операцией GLU в MMQ — пути проекта для матричных умножений. NVFP4 — компактный формат чисел, используемый в некоторых вычислениях ИИ. Объединение этапов может сократить число отдельных операций, однако в примечаниях к релизу нет данных о производительности.

В релиз также вошли сборки для скачивания: macOS, iOS и Ubuntu для x64, Arm64 и s390x.

## Факты

- Релиз: llama.cpp b12122; указанное изменение CUDA внесено в pull request #31296.
- Для скачивания доступны сборки Ubuntu для CPU с архитектурами x64, Arm64 и s390x, а также пакеты для macOS и iOS.

## Почему это важно

Пользователи, запускающие на CUDA поддерживаемые задачи с NVFP4, смогут воспользоваться объединённым путём вычислений. Однако в примечаниях к релизу не указано, насколько это ускорит работу или сократит расход памяти.

## Источники и ссылки

1. [ggml-org/llama.cpp b12122](https://github.com/ggml-org/llama.cpp/releases/tag/b12122) – llama.cpp, 2026-11-05

Обновлено: 2026-11-05