Oossa

llama.cpp får CUDA-kärna för SSM-konvolution med storlek 7

ggml-org/llama.cpp v b11770 lägger till en ny CUDA-kärna för SSM-konvolution och nya binärfiler för macOS, iOS och Linux.

NotisAv Publicerad av Oossa: 1 min läsning

Open source-biblioteket llama.cpp släppte version b11770 den 21 okt 2026. Uppdateringen lägger till en CUDA-kärna som stöder SSM-konvolution (state-space model) med storlek 7. Nya förkompilerade binärfiler finns nu för Apple Silicon, Intel-baserade Mac-datorer, iOS och flera Ubuntu-versioner, bland annat för CPU, Vulkan och CUDA 12.8.

Varför det spelar roll

Utvecklare kan köra större SSM-baserade modeller snabbare på Nvidia-GPU:er tack vare den nya kärnan.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.