Oossa

llama.cpp v0.13 erweitert DMA für schnellere Binäroperationen

Die Open-Source-Bibliothek llama.cpp hat am 13. Okt. 2026 eine neue Version veröffentlicht, die das DMA-Broadcasting für Binäroperationen auf mehreren Plattformen erweitert.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Team von ggml-org hat am 13. Okt. 2026 llama.cpp in Version b11580 veröffentlicht. Das Update erweitert die Unterstützung für skalares DMA (Direct Memory Access) bei Binäroperationen und umfasst neue Kernel für Repeat-Operationen und komplexe Daten. Außerdem wurden DMA-freie Pfade bereinigt und Unterstützung für nicht zusammenhängende Strides hinzugefügt. Die Änderungen betreffen CPU-, CUDA-, Vulkan- und Hexagon-NPU-Builds unter Linux, Windows, macOS und Android. Entwickler können nun effizientere Tensorberechnungen auf Geräten ausführen, die von Apple-Silicon- bis zu Snapdragon-Chips reichen.

Warum es wichtig ist

Entwickler können llama.cpp-Modelle auf mehr Hardware schneller ausführen und so die Inferenzzeit für Endnutzer verkürzen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.