Oossa

llama.cpp ergänzt CUDA-Kernel für SSM-Faltung mit Größe 7

Version b11770 von ggml-org/llama.cpp bringt einen neuen CUDA-Kernel für SSM-Faltungen und aktuelle Binärdateien für macOS, iOS und Linux.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Die Open-Source-Bibliothek llama.cpp ist am 21. Okt. 2026 in Version b11770 erschienen. Das Update ergänzt einen CUDA-Kernel, der SSM-Faltungen (State-Space-Modelle) mit einer Breite von 7 unterstützt. Neue vorgefertigte Binärdateien gibt es für Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Varianten – darunter Versionen für CPU, Vulkan und CUDA 12.8.

Warum es wichtig ist

Dank des neuen Kernels können Entwickler größere SSM-basierte Modelle auf Nvidia-GPUs schneller ausführen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.