Oossa

llama.cpp добавила блочное ядро GDN для CUDA и HIP

В релизе b11632 от Oct 15 2026 появилось блочное ядро GDN для CUDA и HIP, а также поддержка SM86/SM89 на видеокартах RTX 3090 и RTX 4090.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Библиотека с открытым исходным кодом llama.cpp выпустила версию b11632 Oct 15 2026. В ней появилось блочное ядро GDN (Gaussian‑Diffusion‑Normalization) для CUDA и HIP, расширяющее поддержку GPU. После проверки корректности и тестов предварительной обработки данных обновление добавило поддержку наборов инструкций SM86 и SM89 на проверенных видеокартах Ampere и Ada, включая RTX 3090 и RTX 4090. В более старых сборках исправили ошибки, а в коде для этапа GDN MMA (умножения матриц с накоплением) теперь используется переработанный API swizzle.

Почему это важно

Разработчики смогут запускать вывод в llama.cpp быстрее и надежнее на новых видеокартах Nvidia.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.