Oossa

В llama.cpp добавили CUDA-ядро для SSM-свёртки шириной 7

В версии ggml-org/llama.cpp b11770 появилось новое CUDA-ядро для SSM-свёртки и свежие сборки для macOS, iOS и Linux.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

21 октября 2026 года вышла версия b11770 библиотеки с открытым исходным кодом llama.cpp. В обновлении появилось CUDA-ядро для SSM-свёртки шириной 7 (SSM — модель пространства состояний). Также стали доступны новые готовые сборки для Apple Silicon, компьютеров Mac с процессорами Intel, iOS и нескольких версий Ubuntu — для CPU, Vulkan и CUDA 12.8.

Почему это важно

Благодаря новому ядру разработчики смогут быстрее запускать более крупные модели на основе SSM на видеокартах Nvidia.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.